找回密码
 点击注册
搜索
查看: 7187|回复: 0

忧虑成真:著名杂志因人工智能而关闭了投稿

[复制链接]
发表于 2023-2-24 09:50:10 | 显示全部楼层 |阅读模式

忧虑成真:著名杂志因人工智能而关闭投稿

该漫画描绘了一个人工智能生成机器人急切地向“克拉克斯世界”提交了一份稿件 ...

该漫画描绘了一个人工智能生成机器人急切地向“克拉克斯世界”提交了一份稿件 ...

上图:该漫画描绘了一个人工智能生成机器人急切地向“克拉克斯世界”提交了一份稿件。

著名科幻出版物“克拉克斯世界(Clarkesworld)”正在努力应对大量的机器提交 —— 仅在2月份就有500多份。

无限内容创作机器(生成性人工智能)的一个副作用是无限内容。周一,著名科幻出版物“克拉克斯世界”杂志的编辑宣布,由于发送给该出版物的机器生成故事大幅增加,他已暂时关闭小说稿件投稿。

在推特上分享的一张图表中,“克拉克斯世界”杂志编辑尼尔·克拉克(Neil Clarke)统计了提交剽窃或机器生成小说的被禁作家的数量。2月份的数字总计为500个,高于1月份的100多人和2022年10月约25人的较低基线。被禁提交数量的上升,大致与2022年11月30日ChatGPT的发布时间一致。

像 ChatGPT 这样的大型语言模型(LLM)已经在数百万本书籍和网站上进行了训练,可以快速写出原创故事。然而,它们不是自主工作的,人类必须用提示来指导它们的输出,然后人工智能模型尝试自动完成。

自2006年以来,“克拉克斯世界”杂志出版了许多著名科幻作家的作品,并多次获得雨果奖。在科幻出版物中,它以公开提交过程而闻名,通常每字支付12美分。在其投稿页面上,该出版物写道:“目前我们不考虑由人工智能撰写、联合撰写或协助的故事。”然而,这并没有阻止提交的数量急剧增加,尼尔·克拉克将其主要归因于快速致富计划。

尼尔·克拉克(Neil Clarke)提供了一张图表:“这是我们每月不得不禁止的人数。在2022年底之前,这主要是 ...

尼尔·克拉克(Neil Clarke)提供了一张图表:“这是我们每月不得不禁止的人数。在2022年底之前,这主要是 ...


上图:尼尔·克拉克(Neil Clarke)提供了一张图表:“这是我们每月不得不禁止的人数。在2022年底之前,这主要是抄袭。现在是机器生成的提交。”

克拉克在推特上写道:“造成这个问题的人来自SF/F社区之外。很大程度上是由‘副业’专家推动的,他们声称使用 ChatGPT 可以轻松赚钱。他们推动了这一趋势,应该受到人工智能开发人员的一些鄙视。”

截至目前,在YouTube上快速搜索“用ChatGPT致富”和“用ChatGPT写作赚钱”之类的词,会得到很多结果,尽管我们没有找到一个特别指向“克拉克斯世界”杂志的视频。

YouTube上的快速搜索显示了许多促进使用ChatGPT写作赚钱的结果

YouTube上的快速搜索显示了许多促进使用ChatGPT写作赚钱的结果


上图:YouTube上的快速搜索显示了许多促进使用ChatGPT写作赚钱的结果。

人工智能撰写内容的问题,并非“克拉克斯世界”杂志独有。周二,路透社写了一篇关于亚马逊上人工智能电子书崛起的报道。路透社在亚马逊Kindle商店中发现了200多本将ChatGPT列为作者或合著者的电子书。

人工智能生成内容的大量涌入使“克拉克斯世界”杂志处于一个尴尬的境地,它试图将提交稿件的门槛保持在足够高的水平,以防止垃圾邮件发送者,但又不能高到阻止来自世界某些地区的未被发现的作家或写手,他们可能会被基于地理位置的禁令不公平地针对。在一系列推文中,克拉克解释了他的困境:

我们没有解决这个问题的办法。我们有一些最小化它的想法,但问题并没有消失。探测器不可靠。付费提交牺牲了太多的合法作者。纸质提交对我们来说是不可行的。各种各样的第三方身份确认工具比杂志所能承受的费用要昂贵得多,而且往往存在地域漏洞。采用它们就相当于禁止整个国家使用。

我们可以很容易地实现一个系统,只允许以前提交过作品的作者。这将有效地禁止新作者,但这是不可接受的。他们是这个生态系统和我们未来的重要组成部分。

值得重申的是,到目前为止,声称检测 LLM 编写的文本的工具的准确率很低(在使用人类编写的文本进行测试时经常返回假阳性),因此它们目前不是可行的解决方案。尽管存在这些问题,克拉克说杂志不会停刊,投稿将在未来的某个时间再次恢复。但就目前而言,未来的道路尚不明朗。

克拉克上周三曾表示:“它不会自己消失,我也没有解决办法。我在做一些修改,但这不是任何人都能‘赢’的打地鼠游戏。我们所能期待的最好的结果就是放出足够多的水来保持漂浮。”与此同时,克拉克鼓励那些想要支持该杂志的人订阅。


知新了了
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 点击注册

本版积分规则

QQ|Archiver|SiXiang.com 思乡思想 ( 京ICP备05055065号-1 )

GMT+8, 2024-7-20 03:01

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表