区结成医生
中文大学生命伦理学中心顾问
ChatGPT流行前，读到一篇生命伦理学文章，作者关注人工智能对人类的冲击，说AI不是一种科技而已，若仍以「科技中立论」看待，将是严重错误。
「科技中立论」主张科技非善亦非恶，取决于人类如何使用，只要监管得宜，可为社会带来好处，最佳例子是「基因剪刀」CRISPR技术，为基因编辑打开大门，在分子层面执行明确指定的任务（切割或编辑DNA序列），应用于基因治疗潜力巨大；但亦可用于增强人类能力，改变生殖细胞系（改变人种），这就有重大争议。
套用到人工智能，传统的科技管治遇上多重挑战。AI具有多项超越传统科技的特性，包括可自行依情景作判断决定的「能动性」，以至令人惊奇的「自主性」。基于深度学习的模型不依靠具体编程指示，其演算法毋须人类逻辑，「黑箱」特性是强项也是难以管治之处。
AI的威力还在于扩散性。人们毋须训练就可直接使用，不问年龄也没心理健康风险评估；一件玩具放在超市销售，也要经过安全测试，AI的创新却不可能受制于繁复的传统产品安全审查。
人工智能不是单一的应用科技，亦是未来的基础设施。作为资料中介或决策中枢，将被整合到社会关键基础（金融、司法、医疗等）。治理人工智能不能只在逐一应用场景监管，须充分考量它作为「结构性技术」的角色。在社会层面，人工智能是文化再塑的革命，能改变讯息流、信任机制、劳动分工与权力关系，这些变化蕴含道德与政治问题，大大超越中立工具的前设。
