Guava学习之Splitter

本文是对 Guava 中 Splitter 的学习介绍。欢迎加入学习项目: LearningGuava

使用示例

以下参考:官方文档

Splitter

概述

Java 中关于分词的工具类会有一些古怪的行为。例如:String.split 函数会悄悄地丢弃尾部分割符,而 StringTokenizer 处理5个空格字符串,结果将会什么都没有。

问题:",a,,b,".split(",") 的结果是什么?

  1. “”, “a”, “”, “b”, “”
  2. null, “a”, null, “b”, null
  3. “a”, null, “b”
  4. “a”, “b”
  5. 以上都不是

正确答案是:5 以上都不是,应该是 "", "a", "", "b"。只有尾随的空字符串被跳过。这样的结果很令人费解。

Splitter 可以让你使用一种非常简单流畅的模式来控制这些令人困惑的行为。

1
2
3
4
Splitter.on(',')
.trimResults()
.omitEmptyStrings()
.split("foo,bar,, qux");

以上代码将会返回 Iterable<String> ,包含 “foo”、 “bar”、 “qux”。一个 Splitter 可以通过这些来进行划分:PatterncharStringCharMatcher

如果你希望返回的是 List 的话,可以使用这样的代码 Lists.newArrayList(splitter.split(string))

工厂函数

方法 描述 例子
Splitter.on(char) 基于特定字符划分 Splitter.on(';')
Splitter.on(CharMatcher) 基于某些类别划分 Splitter.on(';')
Splitter.on(String) 基于字符串划分 Splitter.on(CharMatcher.BREAKING_WHITESPACE)
Splitter.on(CharMatcher.anyOf(";,."))
Splitter.on(Pattern)
Splitter.onPattern(String)
基于正则表达式划分 Splitter.on(", ")
Splitter.fixedLength(int) 按指定长度划分,最后部分可以小于指定长度但不能为空 Splitter.fixedLength(3)

修改器

方法 描述 例子
omitEmptyStrings() 移去结果中的空字符串 Splitter.on(',').omitEmptyStrings().split("a,,c,d") 返回 "a", "c", "d"
trimResults() 将结果中的空格删除,等价于trimResults(CharMatcher.WHITESPACE) Splitter.on(',').trimResults().split("a, b, c, d") 返回 "a", "b", "c", "d"
trimResults(CharMatcher) 移除匹配字符 Splitter.on(',').trimResults(CharMatcher.is('_')).split("_a ,_b_ ,c__") 返回 "a ", "b_ ", "c"
limit(int) 达到指定数目后停止字符串的划分 Splitter.on(',').limit(3).split("a,b,c,d") 返回 "a", "b", "c,d"

Splitter.MapSplitter

以下参考:Guava 是个风火轮之基础工具(2)

通过 SplitterwithKeyValueSeparator 方法可以获得 Joiner.MapJoiner 对象。

MapSpliter 只有一个公共方法,如下所示。可以看到返回的对象是 Map<String, String>

1
public Map<String, String> split(CharSequence sequence)

以下代码将返回这样的 Map: {"1":"2", "3":"4"}

1
Splitter.on("#").withKeyValueSeparator(":").split("1:2#3:4");

需要注意的是,MapSplitter 对键值对格式有着严格的校验,下例会抛出 java.lang.IllegalArgumentException 异常。

1
Splitter.on("#").withKeyValueSeparator(":").split("1:2#3:4:5");

因此,如果希望使用 MapSplitter 来拆分 KV 结构的字符串,需要保证键-值分隔符和键值对之间的分隔符不会称为键或值的一部分。也许是出于类似方面的考虑,MapSplitter 被加上了 @Beta 注解(未来不保证兼容,甚至可能会移除)。所以一般推荐使用 JSON 而不是 MapJoiner + MapSplitter

源码分析

以下参考:Guava 是个风火轮之基础工具(2)

Splitter 的实现中有十分明显的策略模式和模板模式,有各种神乎其技的方法覆盖,还有 Guava 久负盛名的迭代技巧和惰性计算。

成员变量

Splitter 类有 4 个成员变量:

  • CharMatcher trimmer:用于描述删除拆分结果的前后指定字符的策略。
  • boolean omitEmptyStrings:用于控制是否删除拆分结果中的空字符串。
  • Strategy strategy:用于帮助实现策略模式。
  • int limit:用于控制拆分的结果个数。

策略模式

Splitter 可以根据字符、字符串、正则、长度还有 Guava 自己的字符匹配器 CharMatcher 来拆分字符串,基本上每种匹配模式的查找方法都不太一样,但是字符拆分的基本框架又是不变的,所以策略模式正好合用。

策略接口的定义很简单,就是传入一个 Splitter 和一个待拆分的字符串,返回一个迭代器。

1
2
3
private interface Strategy {
Iterator<String> iterator(Splitter splitter, CharSequence toSplit);
}

每个工厂函数创建最后都需要去调用基本的私有构造函数。这个创建过程中,主要是提供一个可以创建 Iterator<String>Strategy

1
private Splitter(Strategy strategy, boolean omitEmptyStrings, CharMatcher trimmer, int limit);

Splitter on(final CharMatcher separatorMatcher) 创建函数为例,这里返回的是 SplittingIterator (它是个抽象类,继承了 AbstractIterator,而 AbstractIterator 继承了 Iterator)。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
public static Splitter on(final CharMatcher separatorMatcher) {
checkNotNull(separatorMatcher);
return new Splitter(
new Strategy() {
@Override
public SplittingIterator iterator(Splitter splitter, final CharSequence toSplit) {
return new SplittingIterator(splitter, toSplit) {
@Override
int separatorStart(int start) {
return separatorMatcher.indexIn(toSplit, start);
}

@Override
int separatorEnd(int separatorPosition) {
return separatorPosition + 1;
}
};
}
});
}

SplittingIterator 需要覆盖实现 separatorStartseparatorEnd 两个方法才能实例化。这两个方法也是 SplittingIterator 用到的模板模式的重要组成。

惰性迭代器与模板模式

惰性计算目的是要最小化计算机要做的工作,即把计算推迟到不得不算的时候进行。Java中的惰性计算可以参考《你应该更新的 Java 知识之惰性求值:Supplier 和 Guava》

Guava 中的迭代器使用了惰性计算的技巧,它不是一开始就算好结果放在列表或集合中,而是在调用 hasNext 方法判断迭代是否结束时才去计算下一个元素。

AbstractIterator

为了看懂 Guava 的惰性迭代器实现,我们要从 AbstractIterator 开始。

AbstractIterator 使用私有的枚举变量 state 来记录当前的迭代进度,比如是否找到了下一个元素,迭代是否结束等。AbstractIterator 有一个抽象方法 computeNext,负责计算下一个元素。由于 state 是私有变量,而迭代是否结束只有在调用 computeNext 的过程中才知道,于是提供了一个保护的 endOfData 方法,允许子类将 state 设置为 State.DONE

1
2
3
4
5
6
private enum State {
READY,
NOT_READY,
DONE,
FAILED,
}

AbstractIterator 实现了迭代器最重要的两个方法,hasNextnext

hasNext 很容易理解,一上来先判断迭代器当前状态,如果已经结束,就返回 false;如果已经找到下一个元素,就返回 true,不然就试着找找下一个元素。

1
2
3
4
5
6
7
8
9
10
11
12
@Override
public final boolean hasNext() {
checkState(state != State.FAILED);
switch (state) {
case READY:
return true;
case DONE:
return false;
default:
}
return tryToComputeNext();
}

next 则是先判断是否还有下一个元素,属于防御式编程,先对自己做保护;然后把状态复原到还没找到下一个元素,然后返回结果。至于为什么要把 next 置为 null,可能是帮助 JVM 回收对象。

1
2
3
4
5
6
7
8
9
10
@Override
public final T next() {
if (!hasNext()) {
throw new NoSuchElementException();
}
state = State.NOT_READY;
T result = next;
next = null;
return result;
}

tryToComputeNext 可以认为是对模板方法 computeNext 的包装调用,首先把状态置为失败,然后才调用 computeNext。这样一来,如果计算下一个元素的过程中发生 RuntimeException,整个迭代器的状态就是 State.FAILED,一旦收到任何调用都会抛出异常。

1
2
3
4
5
6
7
8
9
private boolean tryToComputeNext() {
state = State.FAILED; // 暂时悲观
next = computeNext();
if (state != State.DONE) {
state = State.READY;
return true;
}
return false;
}

AbstractIterator 的代码就这些,我们现在知道了它的子类需要覆盖实现 computeNext 方法,然后在迭代结束时调用 endOfData。接下来看看 SplittingIterator 的实现。

SplittingIterator

SplittingIterator 还是一个抽象类,虽然实现了 computeNext 方法,但是它又定义了两个虚函数:

  • separatorStart: 返回分隔符在指定下标之后第一次出现的下标
  • separatorEnd: 返回分隔符在指定下标后面第一个不包含分隔符的下标。

之前的策略模式中我们可以看到,这两个函数在不同的策略中有各自不同的覆盖实现,在 SplittingIterator 中,这两个函数就是模板函数。

接下来看看 SplittingIterator 的核心函数 computeNext,这个函数一直在维护的两个内部全局变量: offsetlimit

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
@Override
protected String computeNext() {
// 返回的字符串介于上一个分隔符和下一个分隔符之间。
// nextStart 是返回子串的起始位置,offset 是下次开启寻找分隔符的地方。
int nextStart = offset;
while (offset != -1) {
int start = nextStart;
int end;

// 找 offset 之后第一个分隔符出现的位置
int separatorPosition = separatorStart(offset);
if (separatorPosition == -1) {
// 处理没找到的情况
end = toSplit.length();
offset = -1;
} else {
// 处理找到的情况
end = separatorPosition;
offset = separatorEnd(separatorPosition);
}

// 处理的是第一个字符就是分隔符的特殊情况
if (offset == nextStart) {
// 发生情况:空字符串 或者 整个字符串都没有匹配。
// offset 需要增加来寻找这个位置之后的分隔符,
// 但是没有改变接下来返回字符串的 start 的位置,
// 所以此时它们二者相同。
offset++;
if (offset > toSplit.length()) {
offset = -1;
}
continue;
}

// 根据 trimmer 来对找到的元素做前处理,比如去除空白符之类的。
while (start < end && trimmer.matches(toSplit.charAt(start))) {
start++;
}
// 根据 trimmer 来对找到的元素做后处理,比如去除空白符之类的。
while (end > start && trimmer.matches(toSplit.charAt(end - 1))) {
end--;
}
// 根据需要去除那些是空字符串的元素,trim完之后变成空字符串的也会被去除。
if (omitEmptyStrings && start == end) {
// Don't include the (unused) separator in next split string.
nextStart = offset;
continue;
}

// 判断 limit,
if (limit == 1) {
// The limit has been reached, return the rest of the string as the
// final item. This is tested after empty string removal so that
// empty Strings do not count towards the limit.
end = toSplit.length();
// 调整 end 指针的位置标记 offset 为 -1,下一次再调用 computeNext
// 的时候就发现 offset 已经是 -1 了,然后就返回 endOfData 表示迭代结束。
offset = -1;
// Since we may have changed the end, we need to trim it again.
while (end > start && trimmer.matches(toSplit.charAt(end - 1))) {
end--;
}
} else {
// 还没到 limit 的极限,就让 limit 自减
limit--;
}

return toSplit.subSequence(start, end).toString();
}
return endOfData();
}
}

-------------本文结束感谢您的阅读-------------