[博客翻译]挑战人工智能的神话


原文地址:https://www.techpolicy.press/challenging-the-myths-of-generative-ai/


在数字世界中,数据中心的庞然大物和光纤电缆构成了我们想象的基础,而这些想象又深受提供基于此基础设施服务的公司影响。由此诞生了一种技术神话,它倾向于提供简单易懂的解释,却牺牲了准确性。科技产品的营销者拥有巨大的影响力,他们可能通过复杂性来隐藏产品难题,或者通过过度简化来磨平棱角。设计师在塑造这种神话的过程中扮演关键角色,尽管并非总是出于恶意,营销行业本身就需要这样的神话来帮助理解技术。

人工智能的神话多种多样,它们并非全然负面,但持续塑造着我们对AI的认知。比如控制神话,强调生成式AI的可控性,但实际上,用户的影响可能被忽视,系统中的不一致性,如所谓的“幻觉”,并未得到充分揭示。生产力神话则高调地将AI与节省时间联系起来,广告中的人工智能似乎能自动化繁琐任务,但实际上,它模糊了努力程度和使用方式,以及思考工作价值的重要性。

提示神话是LLM热潮的核心技术神话,它巧妙地将对话框设计为用户输入文字,而非直接编辑。虽然这看似赋予了用户更多控制,但实际上,模型的响应往往受到用户输入的引导,而且可能并不准确。艺术家和LLM使用者在追求特定结果时,会投入大量时间调整提示,这揭示了提示神话背后的控制问题。

智能神话源于将人类思维的比喻应用到自动化系统中,如学习、理解和梦想,这些概念简化了描述,但模糊了AI与人类智能的界限。学习神话将AI模型与人类学习相提并论,但实际上,AI是基于训练数据的统计模型,而非像人类那样通过教育过程成长。

1.png

创造力神话将生成式AI与创造性过程混淆,认为AI可以产生艺术或文学作品,但实际上,AI工具的“创作”受限于预设的过程,而人类的创造力则包含选择和创新。这种神话简化了人类创造力,对AI公司的法律主张有利。

未来主义神话描绘了AI不断进步的愿景,回避了当前技术挑战,有时甚至将讨论未来问题视为阻碍。例如,关于数据规模的神话认为更多的数据就能解决所有问题,但实际上,更大的数据集可能导致偏见,并引发监管和透明度的复杂性。

要打破这些神话,我们需要更严谨的证据和批判性思考。媒体工作者、研究人员、政策制定者和艺术家需要站出来质疑这些假设,推动更深入的探讨。价值观声明和伦理讨论的价值不容忽视,但必须建立在对技术真实影响的理解之上,而不是盲目接受企业神话。通过共同努力,我们可以创建一个更为坚实的技术认知框架,而不是仅仅依赖于企业的虚构故事。