[博客翻译]挑战人工智能的神话


原文地址:https://www.techpolicy.press/challenging-the-myths-of-generative-ai/


在数字世界中,数据中心的庞然大物和光纤电缆构成了我们想象的基础,而这些想象又深受提供基于此基础设施服务的公司影响。由此诞生了一种技术神话,它倾向于提供简单易懂的解释,却牺牲了准确性。科技产品的营销者拥有巨大的影响力,他们可能通过复杂性来隐藏产品难题,或者通过过度简化来磨平棱角。设计师在塑造这种神话的过程中扮演关键角色,尽管并非总是出于恶意,营销行业本身就需要这样的神话来帮助理解技术。

人工智能的神话多种多样,它们并非全然负面,但持续塑造着我们对AI的认知。比如控制神话,强调生成式AI的可控性,但实际上,用户的影响可能被忽视,系统中的不一致性,如所谓的“幻觉”,并未得到充分揭示。生产力神话则高调地将AI与节省时间联系起来,广告中的人工智能似乎能自动化繁琐任务,但实际上,它模糊了努力程度和使用方式,以及思考工作价值的重要性。

提示神话是LLM热潮的核心技术神话,它巧妙地将对话框设计为用户输入文字,而非直接编辑。虽然这看似赋予了用户更多控制,但实际上,模型的响应往往受到用户输入的引导,而且可能并不准确。艺术家和LLM使用者在追求特定结果时,会投入大量时间调整提示,这揭示了提示神话背后的控制问题。

智能神话源于将人类思维的比喻应用到自动化系统中,如学习、理解和梦想,这些概念简化了描述,但模糊了AI与人类智能的界限。学习神话将AI模型与人类学习相提并论,但实际上,AI是基于训练数据的统计模型,而非像人类那样通过教育过程成长。

![1.png](http://aiqianji.oss-cn-shenzhe