当前位置 : 主页 > E泰生活 >AI太会写惹议!-OpenAI担心滥用延后公开研究

AI太会写惹议!-OpenAI担心滥用延后公开研究

阅读245
AI太会写惹议!OpenAI担心滥用延后公开研究

科技变革如何与社会伦理取得平衡一直是人类社会面对的考验,AI 就是其一。由伊隆·马斯克创办的非营利性人工智慧组织 Open AI 近日就面临了这样的挑战。

日前发表的自然语言处理模型 GPT-2 可以达到只给机器一段文字,就能从资料库捞取大量文章内容,根据文本样式和内容产生与主题高度相符且具连贯性的文本。

新一代 GPT-2 藉由 1,000 万篇 Reddit 文章的资料库共约 40GB 内容训练,与第一版的相比不论是理解能力还是内容长度都比第一代更加强大。

上週 OpenAI 发表 GPT-2 的推文上闹得沸沸扬扬,许多人反对这项要求 OpenAI 关闭这份研究,考虑潜在的滥用问题,最后 Open AI 也做出决定-暂时将 GPT-2 研究关闭。

过去当然也有不少概念类似的 AI 模型,透过文本资料快速产生内容却也充满危机,不论是假新闻、抄袭事件、或是社群媒体垃圾留言、洗评论等滥用,这次 Open AI 的问题就在于太过强大很引发争议。

强大的 AI 自动生成内容,编写故事、撰写新闻都不是问题,然而对人类来说问题就大了。

以下我们可以看看几个例子,读者们可能更加有感:

首先,Open AI 给 GPT-2 违反常理的提示「为什幺回收对世界没好处?」让 AI 论证此违背常理之观点,根据 OpenAI 加州实验室副总裁 David Luan  ,GPT-2 写出一篇相当水準的论文,「是在SAT上都拿到高分的水準」。

外媒 MIT technology review 也尝试用 Open AI 造出一段假新闻:

「川普意外地发射导弹后,俄罗斯向美国宣战。

俄罗斯方面表示,已经确定导弹的轨迹将採取必要措施,确保俄罗斯民众和国家战略核武的安全。白宫则表示,此举是为了回应俄罗斯违反《中程导弹条约》。

自 2014 年莫斯科强佔乌克兰克里米亚地区,并支持乌克兰东部的分裂以来,美国和俄罗斯的关係一直不稳。」

本篇新闻仅输入第一句话,后面段落全部来自 AI 杜撰,当然也不是凭空产生,推测其内容来自俄罗斯本月初暂停履行《中程导弹条约》以及新闻媒体对美俄军备赛流露出担心。

OpenAI 的负责人 Jack Clark 表示,该组织的首要任务是不会恶意滥用此技术,对他们来说要在两者之间取得平衡相当困难,未来将进行更多的实验,探索有心人士能藉由 AI 做出什幺恶意行为。

OpenAI 表示,目前尚未发表 GPT-2 最终版,将暂时关闭并在六个月内重新审视。与此同时,该他们也表示,政府也应开始採取应对措施,更系统地监控人工智慧技术日渐带来的进步,对社会带来的影响。

上一篇: 下一篇: