不久前ChatGPT突然走红,用户量迅速增加,很多人惊呼“生成式AI”革命已经到来,但最近几个月它的热度似乎在下降,用户量增速已经明显放缓。
(资料图)
The Verge撰文称,生成式AI必然会在科技史上留下一笔,但它带来的消极影响也的确值得我们重视。
什么消极影响呢?有人用ChatGPT生成垃圾网站,网上到处都是AI生成的垃圾;聊天机器人勾连在一起,引用彼此的误导信息;Snapchat和Instagram等社媒都希望用机器人陪你聊天……
关键的是,旧网络正在死亡,但新的网络还在挣扎,还没有出生。
网络的死亡与重生
网络一直在死亡中重生,比如APP改变了流量走向。2023年网络再次走向死亡,这一次有了新元素参与,它就是AI。
多年前,网络还是个体的天下,个体用户制作主页、论坛、邮件列表,金钱涌入,然后企业加入进来,创建功能丰富的平台,让每一个人都可以加入进来。现在AI正在改变旧格局。
有了金钱和算力,AI系统可以轻松扩张。AI生成文本和图片,很快将会制作音乐和视频。以前我们依赖新闻、信息、娱乐,它们创造了海量内容,但很快AI创造的内容数量可能会远远超过它们。
可惜,目前的AI系统仍然不够“聪明”,质量低劣,还是“寄生虫”。训练AI的数据来自旧时代,AI只是进行了再创造,这种创造还不完美。AI生成的内容不太可靠,系统还没有成熟,AI就与之前的旧平台展开了用户注意力的争夺。
内容平台首鼠两端
在美国,有些AI公司通过API获取Reddit数据,导致Reddit准备提价,让它们支付更多使用费。Reddit CEO Steve Huffman说:“Reddit数据库很有价值,我们不会将所有价值免费提供给一些大企业。”
Reddit准备今年年末上市,它想从平台中挖掘更多价值。AI企业疯狂抓取数据,这是机会,也是威胁,有人担心互联网企业可能会重新思考平台的开放性问题。
以前谷歌抓取维基百科信息不用付钱,但现在要付费了。维基百科对AI内容持双重看法,AI生成内容速度快,覆盖范围广,这是优点,但它们往往存在误导。
去年ChatGPT推出后没多久,Stack Overflow就给予“封杀”待遇。主要问题在于ChatGPT在一般情况下看起来很好,答案也容易生成,但出错率太高,要给结果排序太费神了,所以干脆禁止。
但后来Stack Overflow又改变态度,抬高了用户发布AI内容的门槛,让他们承担更多举证责任,不再封杀。Stack Overflow也准备向抓取数据的AI公司收费。版主认为AI内容不可信,但Stack Overflow高管觉得冒点险是值得的。
谷歌选择至关重要
最值得的关注的可能还是谷歌的态度。谷歌搜索是现代网络的支柱之一,它将注意力、金钱分散至庞大的网络。看到必应AI和ChatGPT走红,谷歌搜索感受到威胁,它正在做实验,想在搜索结果中增加AI内容,如果计划顺利推广,影响将是巨大的。
Tom’s Hardware主编Avram Piltch认为,谷歌新开发的系统从本质上讲是一个“剽窃引擎”。AI生成的内容许多时候是从网络一字不动抄袭的,谷歌有时将这些抄袭的内容放在源链接之上。
如果谷歌新引擎真的全面推广,将会严重损害整个互联网。未来那些财务欠佳的网站可能会倒闭,谷歌将耗尽人工生成内容,最终杀死创造价值的生态系统,或者以不可逆的方式改变生态系统,然后反受其害,威胁到自身生存。
综上,如果我们放任AI内容肆意传播将如何呢?从目前的证据看,网络内容的质量会降低。AI虽然有能力重新组合文本,但创造底层数据的依然是人。
AI创造的内容有许多错误,这些错误很难被发现,它生成的误导信息非常“狡猾”,这些信息并非依赖对真实世界的体验生产,发现其中的错误需要时间,需要专业知识。
人类也会制造许多误导信息,但人类专业知识生存的平台仍是积极力量,如果它们被AI系统击溃,未来想纠正错误将会变得更加困难。