V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
? Learn Python the Hard Way
Python Sites
? PyPI - Python Package Index
? http://diveintopython.org/toc/index.html
? Pocoo
值得关注的项目
? PyPy
? Celery
? Jinja2
? Read the Docs
? gevent
? pyenv
? virtualenv
? Stackless Python
? Beautiful Soup
? 结巴中文分词
? Green Unicorn
? Sentry
? Shovel
? Pyflakes
? pytest
Python 编程
? pep8 Checker
Styles
? PEP 8
? Google Python Style Guide
? Code Style from The Hitchhiker's Guide
galileo1214
V2EX  ?  Python

自然语言处理问题 W2V

  •  
  •   galileo1214 · 2021-05-06 17:44:12 +08:00 · 1249 次点击
    这是一个创建于 1103 天前的主题,其中的信息可能已经有所发展或是发生改变。

    腾讯云最新优惠活动来了:云产品限时1折,云服务器低至88元/年 ,点击这里立即抢购:9i0i.cn/qcloud,更有2860元代金券免费领取,付款直接抵现金用,点击这里立即领取:9i0i.cn/qcloudquan

    (福利推荐:你还在原价购买阿里云服务器?现在阿里云0.8折限时抢购活动来啦!4核8G企业云服务器仅2998元/3年,立即抢购>>>:9i0i.cn/aliyun

    我看好像所有语料都是连在一起的 那么第一句的末尾词和第二句开头词也是有关系的 按道理来说不应该是有关系的,想问下有什么定论吗?

    1 条回复  ?  2021-05-07 15:56:16 +08:00
    princelai
        1
    princelai  
       2021-05-07 15:56:16 +08:00
    开头连着结尾是合理的,比如文本生成,生成到句号,需要根据上 N 个词和句号来继续生成下一句话的开头。

    而且就算真的没有上下文关系,只要你的每句话够长,那么不管 window=5 还是 7,都只有少部分两句话被关联起来了,对于整体的分布影响不大。

    最后如果你非纠结这个问题,那你自己 split('.;')或者正则分割一下不就好了吗
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3265 人在线   最高记录 6547   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 26ms · UTC 14:33 · PVG 22:33 · LAX 07:33 · JFK 10:33
    Developed with CodeLauncher
    ? Do have faith in what you're doing.


    http://www.vxiaotou.com