公司上网行为管理,就用安企神软件
立即咨询Alex 发自 凹非寺
量子位 | 公众号 QbitAI
来和你的计算机玩个猜词游戏吗?
这个叫Pimantle的猜词游戏,规则很简单:
随便输入一个单词,如果它越接近谜底,就会离下图的中心点越近。
在完全没有范围限制和人工提示的情况下,通过计算机反馈的辅助,网友给出的最接近预设词的是“delicatessen”(熟食),与谜底相似度已经达到了79.20。
不过,友友们是否好奇——这么多次猜测背后,计算机是怎么判断单词之间的“相似度”的啊?
其实,这是基于NLP领域的一个常用工具——Word2Vec。
顾名思义,它可以将单词转换成向量形式,来辅助计算机判断词义。
Word2Vec是Tomas Mikolov等人于2013年提出的一个词嵌入生成方法。
它在潜在语义分析等方面优于之前的算法,在判断文本相似度、系统推荐、观点分析等方面都具有广泛的应用。
一名研究机器学习的工程师Vatsal在Towards Data Science发布了一篇介绍Word2Vec的文章,并收获了相当不错的关注度。
这篇帖子在Towards Data Science上收获了1300+赞,Hackernews上2天之内收获了107热度。
网友表示:这是一篇很不错的入门介绍,包含了足够的细节和参考资料。
下面我们就跟随这位小哥一起来认识词嵌入和Word2Vec吧!
在介绍Word2Vec前,先来说说什么是词嵌入。
单词嵌入是将单个自然语言单词在预设的向量空间表示为矢量的技术总称,通过映射得到向量的编码过程被称为嵌入,而这些向量可作为后续任务中神经网络模型的输入。
例如,某个文本中包含“have”,“a”,“good”,“day”等词,这些词映射到向量空间中,表示为不同的向量。
机器可以通过向量内积空间夹角的余弦值来判断对应单词的语义相似度。
当给定了足够大的数据集,Word2Vec可以根据单词在文本中的出现情况,对单词的意思进行判断,评价结果会与语料库中其他单词产生联系。
此外,Word2Vec还可以做类比。例如,“国王”和“女王”算是相似度很高的词语。v(“国王”)-v(“男性”)+v(“女性”)≈v(“女王”)
有了这些运算,机器也可以像人一样“理解”词汇的意思了。
Word2Vec包含两种训练模式,分别是Continous Bag of Words(连续词袋模型)和skip-gram。
其中,CBOW是通过给定的上下文,预测当前词。
如下图所示,w\left( t \right)表示当前单词,w\left( t-? \right)表示前文的单词,w\left( t +?\right)表示后文的单词。
skip-gram则是将当前单词作为输入,去预测上下文的词。
研究者们发现,在词汇向量范围增大的情况下,预测质量会有所提高,但计算复杂度也会增高。
对Skip-gram训练过程的可视化描述。
可见,当给定了文本语料库,目标词是在某个滚动窗口中选择的。目标词和窗口中的其他单词分别组合,形成神经网络的训练数据。
通过对模型进行训练,可以基本得到某个词作为给定目标上下文单词的概率。
上文介绍了Word2Vec的基本原理,那么这个词嵌入法还有什么应用或延伸吗?
你是否做过MBTI人格测试,或者五大人格特质测试?
这些测试会给参与者一系列问题,然后给不同的几个指标打分,例如:内向-外向。
假设满分为100分,某人外向性指标的最终得分为38/100。可以用这种方式绘图:
下面把范围收缩到-1到1:
如果再加上另一个指标,如负责性,那么需要再添加一个坐标轴。
当我们把前文所示的五个主要的人格特征都进行统计分析,会得到:
我们可以对不同的人进行测试,并收集测试结果,如:
Word2Vec可以比较不同单词的意思,同理,我们可以运用向量余弦相似度比较不同个体的个
性:
显然,Jay和另一个“测试者1”的性格更相似。
上文展示了将性格向量化,即Personality2Vec。
其实近年来,已经衍生出了2vec的不同变种,例如有的利用段落信息,有的利用整个文本的信息,有的则是在更高维度的item上进行2vec操作。
其中,Paragraph2vec基于CBOW,把段落的ID作为属性也纳入计算当中。
深度学习的表征能力很好,但是工程师们需要耗费大量的时间来选择特征。
未来应该会有更多的*2Vec诞生,在一个概念比较抽象、复杂时,通过向量化进入另外一个N维空间也许会带给人们一些启发。
看到这里,你是否想试试文章开头提到的猜词游戏?万一中了呢?:)
游戏链接:
https://semantle.pimanrul.es/
参考链接:
[1]. https://towardsdatascience.com/Word2Vec-explained-49c52b4ccb71
[2]. https://jalammar.github.io/illustrated-Word2Vec/
— 完 —
量子位 QbitAI · 头条号签约
关注我们,第一时间获知前沿科技动态
7款电脑加密软件超好用推荐|2024年常用电脑加密软件排行榜
电脑监控系统有哪些?软件排行榜揭晓
关于在Windows2003、2008服务器上运行安企神软件封U口软件、电脑USB控制软件、U盘禁用工具软件管理端的注意事项
安企神软件办公室电脑监控软件、网络流量监控软件、局域网网络管理软件列表
安企神软件电脑U口禁用软件教你如何禁用U盘、禁止网盘上传文件、禁止邮件附件、禁止QQ发文件、禁止FTP文件上传?
安企神软件控制电脑U口使用软件、电脑禁用U盘软件、计算机USB端口管理软件所有常见问题、使用技巧汇总!
如何卸载安企神软件usb控制系统、卸载安企神软件禁用U盘软件、怎样卸载安企神软件电脑usb端口管理软件?
安企神软件局域网网速监控软件、网络行为管理系统、公司电脑管理系统、局域网远程监控软件详细操作文档汇总
如何监控电脑端微信?5款软件可以看到对方微信在聊什么
案例背景某科技公司,专注于为客户提供定制化的软件开发服务。公司拥有一支庞大的销售团队,主要通过微信与客户进行沟通和项目跟进。随着业务的不断扩大,公司逐渐发现一些项目的进展不如预期,客户流失率也有所上升。通过引入一款专业的微信监控软件,公司开始收集和分析销售团队的微信聊天记录。经过一段时间的监控和分析,公司发现了一名销售...
电脑远程控制软件有什么作用?2024上榜的电脑远程控制软件有哪些?
电脑远程控制软件是一种通过网络远程操控其他设备的工具,广泛应用于技术支持、远程工作、系统维护等场景。这种软件不仅提高了工作效率,还极大地降低了时间和空间的限制。以下是其主要作用:1.技术支持:IT人员可以远程协助用户解决问题,无需物理接触设备,大大提高了解决问题的速度和效率。2.远程工作:员工可以在家或其他地点远程访问...
告别电脑USB接口泄密!请使用这四款电脑USB接口控制软件
听说某大型企业因未严格管理电脑USB接口,一名离职员工利用未加密的USB设备轻易拷贝了大量敏感客户资料,导致企业遭受重大经济损失和声誉损害。这个经历告诉我们,企业一定要对USB接口进行严格管控。本文将介绍几款电脑USB接口控制软件。1. 安企神软件安企神是一款功能强大的电脑管理及数据安全软件,其USB接口管理功能尤为突...
2024年常用的8款电脑加密软件分享|电脑加密神器排名
随着数字化时代的到来,企业和个人对数据安全的需求日益增加。电脑加密软件作为保护数据的重要手段,已经成为日常办公和企业管理中不可或缺的一部分。本文将分享2024年常用的八款电脑加密软件,以帮助企业和个人更好地保护数据安全。1. 安企神软件简介安企神软件是业界领先的企业级防泄密解决方案,为企业提供全方位、智能化的数据保护。...
政府单位上网监控软件:全面了解其强大功能与应用场景
政府单位上网监控软件:全面了解其强大功能与应用场景在当今数字化时代,政府单位对电脑上网的监控已成为一项重要的工作任务。随着信息科技的快速发展,各种上网监控软件的应用日益普及,不仅帮助政府单位维护信息安全,也提高了工作效率。本文将细致分析政府单位上网监控软件的多种功能及其在实际应用中的重要性。一、什么是上网监控软件?上网...