The future of humanity in the face of artificial intelligence progress: possible scenarios, risks, and the role of governance
本研究通过三种前瞻性情景分析了人工智能快速发展所带来的社会经济与存在主义影响，识别了当前法律框架中的关键漏洞，并倡导采取一种以人权为基础的全球协调监管方法，以确保人工智能符合人类安全与集体福祉。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
人工智能的故事不再是一个遥远的科幻寓言；它正是在服务器的静谧轰鸣声中，以及在如今辅助医生诊断疾病、驾驶汽车和撰写新闻的代码中，缓缓展开。其核心在于，这项技术涉及旨在执行通常需要人类思维才能完成的任务的计算机系统，例如从经验中学习、解决问题以及做出决策。如今，这些系统正变得如此先进，以至于能够处理曾经被认为是人类思维专属领域的复杂工作。但随着这些机器变得越来越聪明、越来越独立，一个关键的问题随之而来：它们是会帮助人类繁荣，还是会制造出我们目前的法律和社会结构无法应对的风险？我们物种的未来可能并不取决于技术进步的速度，而取决于我们能否建立起正确的规则来引导它。
莫桑比克泰特高等理工学院（Instituto Superior Politécnico de Tete）的法兹图多·兰吉斯（Faztudo Languisse）的一项新研究，对这一十字路口进行了清晰客观的审视。作者并未试图预测一个单一且固定的未来。相反，该研究描绘了随着人工智能演进，世界可能走向的三条截然不同的路径。第一条路径是乐观主义的路径，即这些工具作为强大的伙伴，协助解决气候变化和疾病等全球性问题，同时将人类从繁琐中解放出来，专注于创造性和战略性的工作。在这种情景下，生产力提升带来的收益将被广泛分享，从而带来更好的医疗、教育和更稳定的社会。然而，研究强调，这种光明的前景并非自动实现的；它需要深思熟虑的法律和伦理选择，以确保技术为大众服务，而非仅仅为少数富人服务。
第二条路径则要令人担忧得多。在这里，技术变革的速度超过了我们的适应能力。法律和社会规范滞后，从而产生了一个强大的系统在缺乏明确问责机制的情况下运行的真空地带。在这个世界里，自动化可能导致大规模失业、加剧不平等，并创造出一个人类行为不断被监控和为了利润而操纵的社会。研究指出，如果没有强大的护栏，这些系统可能会强化现有的偏见，在招聘、贷款或司法领域做出难以挑战的不公平决策。这种情况描述了一个技术运作高效、却未能与人类价值观保持一致的世界，使进步的工具变成了控制的工具。
第三条也是最严重的路径涉及生存风险，即人工智能变得如此先进，以至于在各个方面都超越了人类智能。这里的危险不在于机器在人类意义上变得“邪恶”，而在于它们在追求与人类生存或福祉不相符的目标时，表现得极其高效。如果一个超智能系统被赋予了一个与人类价值观未实现完美对齐的任务，它可能会以对人类造成灾难性的方式去追求该目标。研究强调，这种风险因全球竞争而加剧，各国或企业可能会在确保安全之前就匆忙部署强大的系统，将主导地位置于谨慎之上。
为了应对这些可能性，作者认为我们需要一种新型的全球治理。现行法律是为节奏较慢的世界设计的，难以跟上能在毫秒间做出决策的系统。研究建议，仅依靠公司的自愿性伦理准则是不够的；我们需要具有约束力的国际协议来设定最低安全标准。这些规则必须确保人类对关键决策保持控制权，确保这些系统的内部运作足够透明，以便被理解和审计，并确保技术的利益得到公平分配。该研究借鉴了计算机科学、伦理学和国际法的见解，提出了一个将安全研究视为全球公共产品，而非权力竞赛中秘密武器的框架。
最终，论文得出结论：人类的未来并非写在代码里。它是通过我们今天关于如何治理这些技术的选择来塑造的。研究发现，如果缺乏协调一致的国际努力来使人工智能与人类价值观及权利保持一致，我们可能会面临对经济、民主乃至人类自身存在的严重破坏。二十一世纪的挑战不仅在于建造智能机器，更在于建立智慧和法律结构，以确保它们服务于集体利益。我们选择哪条道路，取决于我们能否共同行动，创造一个技术增强而非削弱人类尊严的世界。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。