颠覆性人工智能需要颠覆性的法律回应

生成式人工智能正以前所未有的速度发展。其可能性似乎无穷无尽，但危险也同样如此。我们应如何监管这项技术，以减轻风险并促进机遇？蒂尔堡大学的巴特·范德斯洛特（Bart van der Sloot）在他的最新著作《监管合成社会》中回答了这一问题。  

专家预测，五年后，所有数字内容中将有超过90%完全或部分由人工智能生成。范德斯洛特指出，在这样一个合成社会中，可能再也无法确定什么是真实的，什么不是。尽管这些技术还处于相对初期阶段，但它们已经能够生成与真实材料无法区分的内容。这一新现实对民主、司法体系、新闻业运作以及个人关系的影响可能是前所未有的。

在书中，范德斯洛特描绘了ChatGPT、深度伪造、增强现实和虚拟现实等“合成技术”的内部工作原理及其在教育、健康和娱乐领域的应用。他构想了这些技术被用于欺诈、剥削和身份盗窃的情况，并探讨了它们对后真相社会、公共领域私有化以及个体自主权和社会信任丧失的更深层次影响。

10项建议

为确保我们社会的基本支柱得到充分保护，范德斯洛特得出结论，应考虑对当前监管体系进行10项根本性变革。

1. 信息地位：公民和监管机构都迫切需要更多关于人工智能的信息。市场各方应更好地了解当前监管框架如何适用于他们。

2. 战略自主权：应考虑为私有且关键的人工智能技术创建公共替代品，并实行更广泛的出口和进口限制。

3. 技术要求：需要评估对语音克隆等合成技术制定技术要求、禁令和暂缓实施措施的必要性。

4. 预防原则：可能需要将预防原则（如果一项技术的风险未知，则不应应用）应用于生成式人工智能。

5. 有效性：在引入和应用人工智能应用之前，需要证明其有效性。

6. 社会利益：在监管体系中应考虑社会利益和合成技术的累积影响。

7. 立法变更：可能需要修改法律制度，其中包括将虚拟强奸定为刑事犯罪，并解决深度伪造色情内容的传播问题。

8. 监管：可能需要设立专门的人工智能监管机构。

9. 合作：尊重民主法治的国家之间，监管机构和政府机构之间需要加强合作。

10. 制裁：监管当局对公民所受伤害处以罚款和赔偿的能力应足够高，以产生威慑作用。

《监管合成社会》的开放获取版本现已发布，也可获得平装版。该书得到了知名专家的认可：

• “引人入胜的阅读体验”——欧盟普通法院法官玛雅·布尔坎（Maja Brkan）。

• “不容错过”——耶鲁大学教授卢西亚诺·弗洛里迪（Luciano Floridi）。