当前位置: 首页 > 国际

OpenAI组建团队对抗人工智能的“灾难性风险”

参考消息网11月1日报道 据法国《回声报》网站10月27日报道,人工智能对地球构成的风险是否与战争或大流行病一样大?无论如何,这个行业的巨头们都非常重视这一威胁。创造聊天生成预训练转换器(ChatGPT)的开放人工智能研究中心(OpenAI)刚刚组建一支全新团队,旨在对抗“人工智能的灾难性风险”。

这个新团队将负责监控和评估当前和未来人工智能模型的稳固性,并保护它们免受一切恶意使用。在预期的风险中,OpenAI尤其指出了网络攻击(可以通过人工智能大规模自动进行)、化学威胁、生物威胁、放射性和核威胁等……

据领英网上官方页面显示,OpenAI公司员工不到500人。公司没有进一步说明新团队的规模。团队将由麻省理工学院教授、前谷歌顾问亚历山大·马德里领导。

与此同时,OpenAI启动了一项“挑战”:开发者受到邀请来想象攻击场景和限制其影响的响应。这家企业将为10个“最佳”项目提供2.5万美元资金。这场竞赛还可以让OpenAI发现能够加入这个新团队的人才。

这一举措出台之际,正值英国将主办首届人工智能安全峰会。包括OpenAI、谷歌以及政府领导人、科技界和学界人士在内的上百参会者将于11月1日齐聚布莱奇利。这次国际会议将会讨论人工智能对国家安全的威胁和可能的保障措施。

5月底,包括OpenAI首席执行官萨姆·阿尔特曼在内的350多名知名人士签署了一封公开信,引发了关于人类对人工智能失去控制的争论。公开信只有一段话:“降低人工智能带来的灭绝风险,应该与大流行病和核战争等其他大规模风险一起纳入全球优先事项。”

类似的这些呼吁主要被视为人工智能巨头自证清白的一种方式,因为世界各国政府都在寻找监管人工智能的正确方式。其他一些人则认为,这是该行业初创企业夸大这项技术的极端重要性以及它们在生态系统中的作用的一种方式。在媒体、广告或银行业,人工智能已经开始威胁就业,但其“灾难性风险”目前更加不确定。(编译/刘卓)

本文来源于网络,不代表福州之窗立场,转载请注明出处
转发到:
拓展阅读
  • 参考消息网1月24日报道 据俄罗斯港口新闻网1月23日报道,海关数据显示,2023年中国从俄罗斯进口的海产品总量同比增长36%,达到128万吨,为2015年以来的最高水平。不过由于价格下降,金额仅增加约5%。港口新闻网还称,在2023年前1[全文]
    2024-01-26 02:01
  • 【环球时报特约记者 刘皓然】 美国福克斯新闻网23日报道,美国共和党参议员兰德·保罗22日在一份年度报告中痛批华盛顿的挥霍无度,声称美国过去一年白白浪费掉纳税人高达9000亿美元的巨额财富。这笔巨款要么被用于“离谱”的科研项目、要么在新冠疫[全文]
    2023-12-26 02:01
  • 墨西哥中部瓜纳华托州检方17日发布公告说,该州萨尔瓦铁拉市当天发生一起武装袭击事件,造成12人死亡、10多人受伤。公告说,当天凌晨,一群武装人员冲入萨尔瓦铁拉市一处庄园,并向庄园内的聚会人群开枪,造成大量人员伤亡。萨尔瓦铁拉市长赫尔曼·塞万[全文]
    2023-12-19 02:15
  • 参考消息网11月1日报道 据法国《回声报》网站10月27日报道,人工智能对地球构成的风险是否与战争或大流行病一样大?无论如何,这个行业的巨头们都非常重视这一威胁。创造聊天生成预训练转换器(ChatGPT)的开放人工智能研究中心(OpenAI[全文]
    2023-11-03 02:01
  • 据乌克兰自由电视台当地时间29日报道,乌克兰国家石油天然气公司负责人切尔尼绍夫表示,将于2024年底停止俄罗斯天然气经由乌克兰过境运输。切尔尼绍夫表示,俄罗斯通过乌克兰向欧盟输送天然气的合同将于2024年底终止,乌克兰不打算延长该合同。[全文]
    2023-11-01 02:01
  • 参考消息网10月22日报道 据日本《朝日新闻》10月21日报道,美国政府近日宣布采取更加严格的对华半导体出口管制措施,在美国国内半导体业界引起反响。这是因为,中国市场规模巨大,如果对华销售额减少,将对美国企业造成巨大打击。美国政府此举被指针[全文]
    2023-10-23 02:00
阿里云服务器
腾讯云秒杀
Copyright 2003-2024 by 福州之窗 fj.shxwrx.cn All Right Reserved.   版权所有