“对！”张涛一拍桌子，“爬虫可以先从几个固定的网站开始，比如新闻网站。
这些网站结构规范，容易抓取。
分词可以先做基于词典的简单版本，复杂的以后再说。”
团队的气氛活跃起来。
年轻人就是这样，不怕困难，就怕迷茫。
一旦有了方向，哪怕方向不完美，他们也敢往前冲。
三天后，新的问题来了。
这次是王磊提出的。
他在研究分词算法时，遇到了一个具体难题。
“贾总，我们试了基于词典的方法，但遇到一个问题。”王磊在白板上写了个例子，“比如‘乒乓球拍卖完了’这句话。
怎么分？”
他画出两种分法：“‘乒乓球/拍卖/完了’，这是说乒乓球被拍卖掉了。
但也可以是‘乒乓/球拍/卖完了’，这是说球拍卖光了。
同一个句子，两种分法，意思完全不一样。”
贾瀞雯看着白板上的句子，也皱起眉。
确实，这太难了。
当晚的电话汇报，她重点说了这个问题。
陈浩听完，没有马上回答。
“这个问题很关键。”他说，“中文的歧义切分是搜索引擎必须要解决的。
这样，你让团队等一下，我想想。”
电话挂断了。
贾瀞雯以为陈浩要思考几天，没想到第二天一早，她就接到了电话。
“瀞雯，我画了个图。”陈浩的声音听起来有些疲惫，像是熬了夜，“我让助理去传真给你，你看一下。”
半小时后，传真机响了。
五页纸，上面是手绘的流程图和说明。
贾瀞雯拿起来看。
第一页是总览，标题是“中文分词歧义处理逻辑”。
后面四页是详细的流程图，每一步都有说明。
她看不懂技术细节，但能看懂思路。
陈浩提出了一个“双向最大匹配”的方法。
从左到右扫描一遍，从右到左再扫描一遍，比较两种结果。
如果一致，就用这个结果。
如果不一致，就启用歧义处理规则--检查上下文，查词典，甚至用简单的概率统计。
最下面还有一行小字：初期可用简单规则，后续逐步完善。
贾瀞雯把传真复印了五份。
本章未完，请点击下一页继续阅读！