半岛电视台-英国担心人工智能被利用制造生物武器
September 26, 2023 1 min 30 words
这则报道凸显了全球日益增长的人工智能威胁，特别是在生物安全领域。英国对于人工智能被滥用制造生物武器的担忧是合理的，因为技术的发展可能会让潜在的恶意行为更加难以监管和防范。这提醒我们，亟需国际社会合作，制定切实可行的法规和伦理准则，以确保人工智能的应用不会损害人类安全和福祉。同时，科技领域的创新也需要在透明和负责任的框架内进行，以充分发挥其潜力，为社会带来益处，而非风险。这一问题需要引起广泛的关注和行动，以保护全球的生物安全。
Array
对犯罪分子或恐怖分子可能利用人工智能造成大规模破坏的担忧预计将成为11月世界领导人人工智能安全峰会讨论的主题。
随着人们对下一代技术进步的力量越来越关注，英国官员正在出访，寻求围绕一份联合声明达成共识，该声明警告流氓行为者利用技术并造成大规模死亡的危险。
英国首相里希·苏纳克周围的一些人担心，这项技术很快就会变得强大到足以帮助个人制造“生物”武器，或者完全脱离人类的控制。
系统开发
上周，发出一封具有里程碑意义的信件的科学家马克斯·泰格马克（Max Tegmark）呼吁暂时停止开发强大的人工智能系统。他表示，技术高管个人非常同意这封信，但他们感觉自己陷入了一场竞争激烈的人工智能竞赛。
一位熟悉峰会会谈的人士表示，“这次峰会的目的是警告先进人工智能的危险，这个术语用来指可能对人类生命构成威胁的人工智能模型。”
上周五，副总理奥利弗·道登在联合国大会上对世界领导人表示，“由于科技公司和非国家行为者在人工智能领域往往在国家层面具有影响力和突出地位，这一挑战需要新形式的多边主义。”
官员们对人工智能模型的最新发展感到震惊。过去的一年，人工智能工具仅用了6个小时就提出了4万种不同的潜在致命分子，其中一些是类似于VX的污染物，VX是迄今为止开发的最强大的神经毒剂。
政府消息人士担心，犯罪分子或恐怖分子利用人工智能帮助他们准备生物武器的成分，然后将它们送到自动化实验室，在那里混合，并在没有任何人工监督的情况下送出去。
一些专家认为，这种风险很快就会急剧增加，一些公司已经花费数亿美元购买更强大的处理器来训练下一代人工智能工具。
现存的担忧
另一个重要的担忧是“通用人工智能”的出现，该术语指的是能够独立于人类水平或高于人类水平执行任何任务并且可以对人类构成生存威胁的人工智能系统。
上周，一位科技高管告诉美国立法者，无法控制的通用人工智能的概念是“科幻小说”。然而，苏纳克希望利用这次峰会将注意力集中在现存风险上，而不是人工智能可能被用来创建虚假图像的最引人注目的可能性。
托尼·布莱尔研究所首席政策策略师本尼迪克特·梅肯-库尼最近发布了一份关于人工智能的政策报告，他表示：“生物安全、自主武器系统，这些都是我们必须确保找到答案的事情。人工智能行业的许多人告诉政客，这些都是真正的风险。这个问题已经摆在政治家面前，他们必须给出答案。”
多位世界领导人计划出席峰会，包括加拿大总理贾斯汀·特鲁多和法国总统埃马纽埃尔·马克龙，英国也邀请了中国出席。
英国官员最近几天一直在世界各地访问，测试在峰会结束时达成协议的可能性。英国渴望有一份正式声明供领导人签署。
行为者
官员们认为，在这些不同的国家群体之间达成协议的最佳方式是关注非国家行为者，而不是试图规定各国如何开发技术。
值得注意的是，唐宁街正在斥资1亿英镑（1.22亿美元）组建新的人工智能团队，帮助测试开发的算法。
英国官员计划利用这次峰会敦促世界各地的公司将他们的人工智能工具发送到英国，以进行评估，然后再更广泛地传播。
政府发言人表示，人工智能具有“改变我们生活方方面面的巨大潜力”，先进人工智能工作组的成立是为了确保该技术的安全和负责任的开发。同时，人工智能安全峰会还考虑了“一系列潜在风险”。