OpenAI正在组建“集体对齐”团队，以建立一个新系统，采用公家关在若何确保其将来人工智能模子“合适人类价值不雅”的设法。

OpenAI首席履行官山姆 奥特曼暗示，人工智能对世界的改变比我们想象的要小很多，对工作的改变也比我们想象的小很多。

1月16日，瑞士达沃斯世界经济论坛揭幕当天，OpenAI首席履行官山姆 奥特曼接管彭博社采访。

新的一年，ChatGPT的开辟机构OpenAI揭示出力求减轻监管压力的姿态。

本地时候1月16日，这家美国人工智能开辟机构公布，但愿采用公家关在若何确保其将来人工智能模子“合适人类价值不雅”的设法，为此正在组建一个由研究人员和工程师构成的集体调和团队，以建立一个新系统，用在搜集公家对其模子行动的输入，并将其“编码”到OpenAI的产物和办事中。

前一天，OpenAI赶在2024年的多场选举之前公布，制止将旗下东西用在政治竞选和选平易近压抑。

OpenAI首席履行官山姆 奥特曼16日活着界经济论坛上暗示，人们担忧人工智能有一天会变得如斯壮大，以致在会极年夜地重塑和倾覆世界，这类担忧是过剩的。

但在当天，OpenAI暗示正与五角年夜楼合作展开软件项目，此中包罗与收集平安相干的项目，这与该公司之前制止向戎行供给人工智能手艺的原则各走各路，激发了一些耽忧。

12个国度的人员介入

OpenAI在博客文章中写道，该公司客岁5月公布了“人工智能帮助项目平易近主投入”打算，旨在帮助小我、团队和组织成立“平易近主流程”的尝试，以回覆有关人工智能护栏和治理的问题。

该公司历来自113个国度的近1000名申请者中的10个团队供给了10万美元的嘉奖。所选团队的成员来自12个分歧的国度，专业常识横跨各个范畴，包罗法令、新闻、和平扶植、机械进修和社会科学研究。

这些受帮助团队的工作涵盖了从视频聊天界面到人工智能模子众包审计平台等各个方面。工作中利用的所有代码和每项提案的简短摘要和要点均已公然，发布在OpenAI的官网上。

OpenAI从这项打算中取得了一些经验，并提出实行打算。“我们的方针是设计包括公共输入的系统，以指导壮大的人工智能模子，同时解决上述挑战。为了帮忙确保我们在这项研究上继续获得进展，我们正在组建一个由研究人员和工程师构成的‘集体对齐（Collective Alignment）’团队。”该公司写道。

新的团队将成立一个系统，搜集公家对其模子行动的输入并将其编码到OpenAI的系统中。该公司将继续与外部参谋和帮助团队合作，包罗运行试点项目，将帮助原型纳入指点其模子。

奥特曼、OpenAI总裁格雷格 布洛克曼和首席科学家伊利亚 苏茨维克屡次暗示，人工智能的立异程序如斯之快，不克不及期望现有政府充实节制这项手艺，是以需要将这项工作众包。包罗Meta在内的一些竞争敌手求全谴责OpenAI试图经由过程游说否决开放AI研发，来主导对AI行业的监管。OpenAI否定了这一点，可能将帮助打算和“集体对齐”团队作为其“开放性”的一个例子。

不得用在政治竞选和游说

OpenAI正遭到政策制订者愈来愈严酷的审查，并面对英国对其与微软关系的查询拜访。比来，该公司仿佛但愿减轻监管机构的压力。本地时候1月15日，就在共和党发布第一州的初选成果之日，OpenAI概述了对其东西利用在政治范畴的限制。

OpenAI的ChatGPT和Dall E是市道上最壮大的AI聊天机械人和图象生成利用法式之一。这类东西的成长已激发耽忧，可能被用在经由过程子虚新闻报导和由计较机生成的图象和视频来把持选平易近。

OpenAI就其政策进行了一系列澄清，此中一条是，其东西不得用在政治竞选和游说，也不得用在建立假充候选人和其他真人的聊天机械人，和假充处所当局的聊天机械人。

该公司暗示，旗下东西还不得用在给投票设置障碍，例如宣称投票毫无意义。

为了帮忙选平易近更好地评估信息或图象是不是由AI生成，OpenAI暗示，对Dall E生成的图象，迁就图象溯源相干细节进行编码。该公司还将愈来愈多地供给新闻报导的链接和出处，以帮忙选平易近评估生成文本的靠得住性。

其他AI系统开辟商也在2024年全球七十多国进行选举前公布了一些办法。谷歌上个月暗示，将限制该公司AI聊天机械人Bard进行选举查询，具有Facebook的Meta已在客岁制止竞选勾当利用AI告白东西。

OpenAI与美国国防部合作

16日，OpenAI全球事务副总裁安娜 马坎朱（Anna Makanju）活着界经济论坛上暗示，OpenA正在与美国国防部合作开辟开源收集平安软件东西，并已与美国当局就帮忙避免退伍甲士自杀的方式进行了初步构和。

上周，OpenAI删除其利用政策中制止其人工智能用在“军事和战争”利用的措辞，激发了人工智能平安提倡者的警戒。马坎朱将这一决议描写为更普遍的政策更新的一部门，以顺应ChatGPT和其他东西的新用处。

“由于我们之前对军事实施了素质上的周全制止，很多人认为这会制止很多用例，人们认为这些用例合适我们但愿活着界上看到的。”她在接管彭博社采访时说。但她暗示，OpenAI依然制止利用其手艺来开辟兵器、摧毁财富或危险人员。

OpenAI最年夜的投资者微软公司已与美国武装军队和其他当局部分签订了多个软件合同。

奥特曼也出席了世界经济论坛这场彭博社组织的勾当。他暗示，通用人工智能（AGI）可能会在“相当接近的将来”获得开辟。通用人工智能是指可以完成与人类不异程度或更高一级使命的人工智能情势。

奥特曼暗示：“它对世界的改变比我们想象的要小很多，对工作的改变也比我们想象的小很多。”自ChatGPT爆火以来，他已屡次试图减缓人工智能思疑论者对该手艺将在多年夜水平上接收社会的耽忧。

�뵺����

美国前总统特朗普15日在艾奥瓦州共和党党团会议上获胜后，奥特曼被问和跟着总统选举的升温，人工智能是不是会加重经济不服等并致使劳动阶层的紊乱。

“是的，固然，我认为这是值得斟酌的工作。”奥特曼说。但他后来讲，“这比我想象的更像是一种东西”，人工智能还没有以很多经济学家担忧的范围代替工作岗亭，这项手艺已成为“使人难以置信的出产力东西”。

（原题目：OpenAI减缓监管压力：构建众包治理，制止AI用在政治竞选）

特殊声明：本文转载仅仅是出在传布信息的需要，其实不意味着代表本网站不雅点或证实其内容的真实性；如其他媒体、网站或小我从本网站转载利用，须保存本网站注明的“来历”，并自大版权等法令责任；作者假如不但愿被转载或联系转载稿费等事宜，请与我们联系。