谷歌母公司Alphabet旗下的Jigsaw周二发布了一款名为Tune的实验性Chrome扩展，用户可以通过它的算法隐藏被识别为有毒的评论。它适用于Mac、Windows、Linux和Chrome OS。

 

Tune构建在与Jigsaw的Perspective API相同的机器学习(ML)模型之上，以评估评论的毒性。

 

Tune用户可以将评论的数量从0调整到任意变化。

 

Jigsaw的Chrome扩展调

 

-点击图像放大-

 

Jigsaw产品经理C.J. Adams在一篇在线文章中指出，Tune并不是针对直接的骚扰目标的解决方案，华宇代理制度也不是针对所有毒性的解决方案。这是一个向人们展示ML技术如何在人们在线阅读讨论时创造新方法来增强他们的能力的实验。

 

Tune只适用于Facebook、Twitter、YouTube、Reddit和Disqus上的英语评论。其他语言的注释将显示在上面，隐藏在下面，这是一个预定义的阈值。

 

Tune的ML模型是实验性的，因此它仍然遗漏了一些有害的注释，并且错误地隐藏了一些无害的注释。开发人员一直在开发底层技术，用户可以在工具中提供反馈以帮助改进算法。

 

恐惧和厌恶过度

 

Stratecast/Frost & Sullivan的项目经理迈克尔•裘德(Michael Jude)打趣道:“我们不知道如何监管互联网，因此，我们打算把它交给一个机器人。”

 

“你不知道它收集的数据在做什么。你不知道是谁建造的。你放弃了自己做决定的自由。”

 

裘德指出:“如果一个人决定利用社交媒体，那他就是默认了要接触一定数量的异议、仇恨言论等等。”“就像一个著名的喜剧演员曾经说过的，你付了钱，你就去碰碰运气。”

 

曲调是如何工作的

 

Tune是Conversation-AI研究项目的一部分，并且是完全开源的，所以任何人都可以检查代码或者在Github上直接贡献代码。

 

Constellation Research首席分析师Ray Wang表示:“api越细，控件越开放，开发人员就能更好地调整人工智能对话算法，从而减少误报和误报。”

 

然而，调优将需要越来越多的数据来进行微调。用户必须注册才能提供对透视图API的访问。

 

读取的评论不与用户的帐户关联，也不通过优化保存。相反，它们被发送到透视图API进行评分，然后在返回评分后自动删除。

 

提交反馈有两种方式:点击关于>反馈，反馈报告中包含账户的用户ID;或者提交对评论评分方式的更正。对于更正，保存评论的文本和用户的回答，以培训ML系统，但是提交不链接到用户的ID。

 

言论自由的问题

 

与早些时候试图管理或控制网上评论一样，Tune很可能引发一场关于言论自由的辩论。

 

裘德回忆说:“在电影《佐罗，同性恋之剑》中，一个女人告诉一个城镇的军事指挥官，他试图阻止她抗议，因为城镇的规则是，任何人都可以在城镇广场上说任何他们想说的话。”

 

“女人说得对!”“她想说什么就说什么。谁听就逮捕谁。”

 

不过，“有些人似乎认为，言论自由意味着你必须听他们说什么，”恩德勒集团(Enderle Group)首席分析师罗布·恩德勒(Rob Enderle)说。

 

“尽管这是不正确的，但这并不会降低他们的信念，即他们自己的话应该是不可侵犯的，”他告诉TechNewsWorld。

 

Constellation Research首席分析师道格•亨舍恩(Doug Henschen)认为，Tune技术“是解决实际问题的一种真诚的方式，它会随着时间的推移不断学习和改进”。

他在接受TechNewsWorld采访时表示:“Tune将控制权交给了个人。”评论仍在发布，因此不会受到限制，但用户选择不去看它们。这是他们的权利。”

 

随着机器人和垃圾邮件工厂大量炮制虚假内容，Tune“是夺回一些控制权以实现言论自由的答案，”Constellation的王指出。

 

曲调“让你摆脱那些声音不成比例的巨魔，”他说。“同样的内容在评论中出现多次的人也会受到限制。”

 

王指出，这些算法似乎在谷歌接受评论的网站上运行良好，“将这项技术发布给其他人是很好的第一步。”

 

Tune对社交媒体的威胁

 

社交媒体都是关于眼球的，一个声明越有争议，它吸引到页面上的眼球就越多。

 

这就提出了一个问题，即使用Tune是否会引发社交媒体网站的反弹。

 

Constellation的Henschen说:“我不认为社交媒体网站会谴责自己的用户试图控制他们所看到的内容。”

 

实际上，他们可能认为Tune是有帮助的，因为“内容所有者确实有义务尝试解决仇恨言论之类的问题，但是大规模地这么做是昂贵的，”他指出。

 

通过巧妙地使用语言可以愚弄视角，但是谷歌解决了早期出现的一些问题。

 

然而，去年夏天另一组研究人员发表了一篇论文，华宇代理:称所有被提议的检测技术都可以被对手自动插入拼写错误、改变单词边界或在语音中添加无害的单词所绕过。他们建议使用字符级特征而不是字级特征来增强ML语音检测模型的鲁棒性。

 

Tune ML模型仍然不成熟，所以“我预计会出现很多类似的问题，”Enderle说。然而，一旦它成熟了，它“应该能够有效地应对这些努力，从而使游戏系统成为一种浪费时间的行为。”