火鹰视角

关注互联网,关注技术开发,透析与分享移动互联网行业最新动态
当前位置: 网站首页 > > "拯救互联网!低质AIGC内容的蔓延可能摧毁整个生态系统"

"拯救互联网!低质AIGC内容的蔓延可能摧毁整个生态系统"

时间:时间: 2023-07-14 17:58:44   阅读: 分类:APP开发
生成式AI的兴衰:消极影响与网络的再生
生成式AI的兴衰:消极影响与网络的再生

生成式AI的崛起曾引起巨大轰动,但近期其热度明显下降,用户增速放缓。据The Verge报道,生成式AI必将在科技史上留下浓墨重彩的一笔,然而,我们也应对其带来的消极影响保持高度警惕。

其中,有人利用ChatGPT生成垃圾网站,导致网络充斥着AI生成的垃圾内容;聊天机器人相互勾连,传播误导信息;甚至Snapchat和Instagram等社交媒体也试图通过机器人陪你聊天。这些都是生成式AI带来的潜在负面影响。

关键是,旧网络正在逐渐消亡,而新网络尚未完全成型。网络一直在经历死亡与重生的循环,比如APP改变了流量格局。然而,2023年的网络再次走向死亡,这一次有了一个新的元素参与进来,那就是AI。

多年前,网络主要由个体用户组成,他们制作个人主页、论坛和邮件列表,随着金钱的涌入,企业加入其中,创建功能丰富的平台,让每个人都能参与进来。然而,如今AI正在改变这一旧有格局。

AI系统凭借金钱和算力的支持可以轻松扩张。它们不仅能生成文本和图片,还将很快创作音乐和视频。过去,我们依赖新闻、信息和娱乐产业创造海量内容,但AI创造的内容数量很可能超越它们。

生成式AI的兴起与衰落引发了广泛关注,我们必须认识到其中的消极影响,并保持警惕。网络的再生需要我们积极应对,找到解决方案,以应对新时代AI所带来的挑战。只有这样,我们才能实现网络的全面发展和繁荣。


AI系统的现状:寄生虫般存在,质量不佳,缺乏可靠性

遗憾的是,目前的AI系统仍然没有达到足够的“智能”,其生成的内容质量低劣,宛如一种“寄生虫”。AI训练所使用的数据来自旧时代,尽管经过再创造,但这种创造还远未完美。因此,AI生成的内容往往不够可靠,系统本身也还没有成熟起来,却已与之前的旧平台展开了用户注意力的争夺。

内容平台陷入左右为难的境地。在美国,一些AI公司通过API获取Reddit的数据,导致Reddit准备提高费用,要求它们支付更多的使用费。Reddit首席执行官Steve Huffman表示:“Reddit的数据库具有很高的价值,我们不会免费将所有价值提供给某些大企业。” Reddit计划在今年年末上市,并希望从平台中挖掘更多价值。然而,AI企业对数据的疯狂抓取既是机遇,也是威胁,人们担心互联网企业可能重新考虑平台的开放性问题。

以前,谷歌可以无偿获取维基百科的信息,但现在需要付费了。维基百科对AI生成的内容持有双重看法,一方面AI能够快速生成大量内容,覆盖范围广,这是一个优点;然而,这些内容往往存在误导性。

去年ChatGPT推出后不久,Stack Overflow便禁止其在平台上的使用。主要问题在于ChatGPT在一般情况下表现良好,容易生成答案,但错误率过高,给结果排序也相当费力,因此干脆将其封杀。然而,随后Stack Overflow改变了态度,提高了用户发布AI内容的门槛,要求他们承担更多的证明责任,并取消了封杀政策。Stack Overflow还准备向抓取数据的AI公司收费。论坛版主认为AI生成的内容不可信,但Stack Overflow高管认为冒一点风险是值得的。

虽然AI技术带来了许多机会,但现阶段它在内容生成方面尚不可靠。我们必须认识到AI系统存在的局限性和问题,并采取适当的措施以确保网络内容的质量和可靠性。只有这样,我们才能实现互联网的真正发展与繁荣。


谷歌的决策对互联网的重要性:AI内容传播的风险与挑战

近年来,在现代网络中,谷歌搜索成为了支撑网络生态的重要组成部分,将注意力和资金引向了广阔的网络世界。然而,随着必应AI和ChatGPT等技术的走红,谷歌搜索感受到了威胁,因此它正在进行一项实验,试图在搜索结果中整合AI生成的内容。如果这一计划能够成功推广,将会对网络产生巨大的影响。

《Tom's Hardware》主编Avram Piltch认为,谷歌新开发的系统本质上是一个“剽窃引擎”。AI生成的内容往往是直接照搬网络上的文字,谷歌有时还将这些剽窃的内容放置在源链接之上。

如果谷歌新引擎真的全面推广,将会对整个互联网造成严重损害。那些财务状况欠佳的网站可能会倒闭,谷歌可能会耗尽人工生成的内容,最终扼杀创造价值的生态系统,或者以不可逆转的方式改变生态系统,从而自食恶果,威胁到自身的生存。

总结来看,如果我们任由AI内容肆意传播,网络内容的质量将会大幅下降。尽管AI有能力重新组合文本,但底层数据的创造仍然需要人类的参与。AI生成的内容中存在许多错误,并且这些错误很难被发现。它们生成的误导性信息非常“狡猾”,并不依赖于对真实世界的体验。要发现其中的错误需要花费时间和专业知识。

虽然人类也会制造误导性信息,但人类所依赖的专业知识平台仍然是积极的力量。如果这些平台被AI系统击败,未来纠正错误将变得更加困难。

因此,谷歌的决策对互联网的态度至关重要。我们必须认清AI内容传播所带来的风险与挑战,采取相应的措施确保网络内容的质量和可信度。只有这样,互联网才能持续发展并为人们创造更多积极的价值。

火鹰科技-移动应用开发/app开发/小程序开发
客服咨询
立即报价
热线电话
扫描二维码
返回顶部