生成式AI藏资安危机 “从美妙变为恐怖”

人们研究AI并应用在各种领域，从电玩到分析卫星影像都有。甚至有AI程式是训练用来写剧本和论文。（Shutterstock）

我觉得，我们变得太过依赖电脑，并盲目相信电脑，以致看不见其中的危险。这些危险藏在我们看不见的地方，除非你喜欢把东西拆开。大多数人不知道我们使用的装置如何运作。对他们来说，网路是个抽象概念。这一点很危险。

最近人们发现：美国推出的5G手机服务可能对飞航安全造成威胁。5G手机和基地台的信号可能会干扰飞机上的雷达高度计。雷达高度计能让机师在雾中看不见跑道的情况下，使飞机安全降落。为了飞航安全的缘故，高度的测量必须非常精准。

我心想：欧洲已经在用5G服务，也没听说造成安全疑虑，美国为什么要大惊小怪？两地有什么不同？许多图像再度在我的脑海闪过。我看见一架飞机从纽约起飞，前往巴黎。这架飞机同时在美国和欧洲两地飞行。美国和欧洲使用一个5G服务频谱共享机制，让许多使用者可以同时使用相同的频率。

我的脑海浮现一些我曾为动物福利写的标准原则，像是北美肉品协会（North American Meat Institute）的《动物处理建议守则与稽查指南》（Recommended Animal Handling Guidelines and Audit Guide）。我的脑袋就是这样把准则的概念进行联想。或许欧洲和美国的无线电频率使用管理标准有一些差异。

我查询管理标准，发现有篇论文解释了差异何在，作者是瑞典查尔摩斯科技大学（Chalmers University of Technology）的马沙罗（Maria Massaro）。原来，无线电频率分享标准的差异在美国导致更高的风险。

根据高度计的技术与我写本文时5G系统的要求，飞机跑道和飞机进场路径附近不可以有高功率5G基地台。一想到有可能拯救无数人命，就觉得这问题不会太难解决。

当人工智慧（AI）控制的系统被骇客入侵时，会怎么样？图为人工智能概念图。（Shutterstock）

当我以图像思考为主题演讲时，最多人问的问题之一是，我会不会产生幻觉。幻觉是图像思考的一种吗？答案很简单：不是。

图像思考是真实存在的，它以现实为基础。一头狮子在饭店里攻击你是幻觉，梦境有幻觉的成分。我在脑海中看见的画面是真实的。而我经常想像的一件事是，当人工智慧（AI）控制的系统被骇客入侵时，会怎么样？

2015年，谷歌推出“深度梦境”（DeepDream），这个电脑视觉程式可以运用AI演算，在侦测模式后生成或强化影像。正常使用这个程式的一个例子，是用它在网路上搜寻狗的图像。如果是以预期的方式使用，那么这个程式与图像思考的运作很相似。

不过，若用它来寻找不存在的东西，它会产生幻觉，类似思觉失调者产生幻觉。当这个程式一再被要求在没有狗的图像中寻找狗，它会开始看见狗的某个部分。树上的苹果可能会变成眼睛。然后，这个程式会生成令人毛骨悚然的影像，例如有很多只眼睛的怪物、有很多只眼睛的天空，或是有很多只眼睛混入超市货架上的杂货里。

贺恩（Alex Hern）在《卫报》（The Guardian）描述，AI生成的影像“从美妙变为恐怖”。

2015年是AI发展的转捩点，首次有电脑在围棋比赛打败人类，毕竟围棋比西洋棋更复杂。数理型空间图像思考者通常善于下西洋棋和围棋，因为棋类活动属于抽象策略思考。席尔瓦（David Silver）等人在《自然》发表的文章提到，电脑运用“超越传统围棋知识范围的非标准策略”。

人们研究AI并应用在各种领域，从电玩到分析卫星影像都有。甚至有AI程式是训练用来写剧本和论文。马伦尼奇（Sofia Merenych）在Medium.com发表的文章提到，GPT-3这个程式用莎士比亚的风格写了一个剧本，连语言学家都难以察觉它是伪作。

当GPT从网路上吸收了大量的人类知识之后，就能针对不同主题写出论文。要求GPT针对某个争议性主题写一篇文章，它做出的结论颇有冒犯意味。史崔克兰（Eliza Strickland）在《国际电子电机工程师学会期刊》（IEEE Spectrum）写道：“不论GPT犯了什么错，都是跟人类学的。它产出冒犯文字的概率是百分之百。”

AI是开发用来进行模拟和分析，以及应用在产业、交通运输、网路安全和军队。它的安全保障机制是什么？你希望让AI操控一个核反应炉吗？万一骇客插入一个反馈回路，使AI操作员产生幻觉，觉察到（不存在的）炉心熔毁时的高压和高温，会怎么样？又或许它会制造真正的炉心熔毁。

将来有一天，一些电脑科学家会承认，他们无法完全掌握AI会如何运作。《机器里的艺术家》（The Artist in the Machine）作者密勒（Arthur I. Miller）在一篇文章写道：“关于谷歌的深度梦境，重点在于，机器生成的影像不是人类输入的。”用来监测气温、水流、压力和工业设备速度的系统，有没有可能也发生这种情况？这个世界将变成数字模型的世界，而不是图像的世界。

我想起高中时期看的《2001太空漫游》。在这部1968年上映的科幻电影里，有一个人工智慧电脑名叫“哈儿”（HAL），它与一群太空人展开寻找外星生物的任务。哈儿设定为不能在太空人抵达目的地之前透露任务目的。它也受指示不能说谎。当哈儿面临这个两难困境，杀人成了唯一合乎逻辑的解套方法。不过，哈儿有一个开关。当唯一生还的太空人大卫在哈儿杀死他之前把哈儿关闭，是本片的高潮。