未来投资倡议研究所计划联合东西方和全球南方国家,采取集体行动应对人工智能全球化带来的风险
未来投资倡议研究所是一家全球非营利性基金会,致力于通过号召来自私营和公共部门的全球领袖共同解决国际问题,今天决定通过人工智能和人类决议来应对人工智能风险。
在利雅得举行的未来投资倡议峰会(10 月 24 日至 26 日)上,来自东西方和全球南方国家的 6000 名领导人、投资者和创新者参加了 200 多个小组讨论,旨在解决人类面临的重大问题,包括人工智能和相关技术的加速发展。
对人工智能治理和监管的全球关注问题超乎政府和私营部门对其的掌控,而且著名的行业领袖也表达了不安,故未来投资倡议认定迫切需要马上采取强有力的全球行动。已确认的威胁包括:
信息可靠性和安全性遭受人工智能的削弱,对选举产生潜在的不良影响(2024 年将有 40 亿人参与选举投票);
人工智能降低制造化学和生物武器的壁垒(例如人工智能系统最近生成了 40,000 种备选化学战剂);
全球网络攻击不断增加, 2022 年内将增加 38%。
迫切需要统一包容的人工智能治理制度。可以确定的是,在人工智能开发和监管方面达成全球一致之前,风险将依然存在。
此决议提出针对人工智能的紧急行动:
加深行业和政府之间的政策合作,提升透明度、落实问责制,以及失败和风险的申报机制;
建立统一包容的全球性人工智能治理制度,包括新兴市场的适宜代表;
积极投资技能开发和社会保障网,确保因人工智能而失业的工人实现平稳过渡(截至 2030 年,自动化将取代 4 亿到 8 亿个工作岗位)
设立适当的全球应变能力来应对风险;
人工智能公司要扩大承诺、透明度和问责制,通过关注安全性并采用基于安全级别的方法来开发未来的人工智能模型,从而降低人工智能风险;
需要对此技术能够实现对积极未来有共同的愿景。
未来投资倡议将建立人工智能联盟,汇集来自发达和新兴市场的投资者、企业、政府领导和学者,就人工智能协调的关键问题进行坦诚对话。
在新德里 G20 峰会和纽约联合国大会讨论人工智能问题一个月后,FII7 峰会正式举办。一周前,英国在英国密码破译和计算之乡”布莱切利园”(Bletchley Park) 举办人工智能安全峰会。这将未来投资倡议对人工智能的审议置于持续进行的全球对话之中。
未来投资倡议研究所首席执行官 Richard Attias 表示:
“中国、美国、欧盟、英国和全球南方国家的科技公司和治理机制对威胁和机遇的看法大相径庭,简直荒谬。人工智能市场预计将达到 1.8 万亿美元。人工智能有望解决我们面临的一些最为严峻的挑战。但如果我们不迫切将人工智能与人类的需求相结合,它也可能会酿成重大的全球风险。人工智能即将改变全球社会和经济,世界需要迅速应对这一问题。”