OpenAI本周公开对外徵求AI的民主程序,以在法令的疆界内制定AI系统可遵循的民主程序准则,并祭出10笔10万美元的奖励。
OpenAI表示,法令以价值及规范来制定行为准则,而在法令的框架之外,AI更像是个社会,需要更复杂与更客制化的准则来指导其行为,例如AI系统应在什麽情况下谴责或批评公众人物,或者是AI该如何表现有争议的各种观点,以及在预设的情况下,AI如何认定某个人的角色。
该组织认为,通用人工智慧(AGI)应该能够造福全人类,且应尽可能地具备包容性,此一徵求计画则是该方针的第一步,希望来自全球的团队可发展出得以让AI系统遵循的民主程序。
所谓的民主程序指的是一个具备广泛代表性的群体可交换意见,并进行审慎的讨论,并藉由透明的决策过程取得结论,而且欢迎各种符合现代需求的创意途径,例如维基百科或DemocracyNext等组织的决策方式。
例如利用ChatGPT来推动讨论与建立共识时,ChatGPT可使用外挂程式来取得各方的声明,同时协助各方理解彼此的意见,确保同样的问题不再重覆提出,并推动脑力激荡,一直到最终达成共识。
此一计画即日起开放各界申请,截止日为今年的6月24日,个人或组织可提出自己的计画以供审核,通过者即可获得10万美元的专案奖金,以实验他们所提出的计画,至少必须邀请500名使用者参与其设计原型,并在今年10月20日之前发布公开报告。
OpenAI已提出许多问题供有兴趣的团队选择,像是ChatGPT是否该有界线?AI对公众人物是否该保持中立?AI在什麽样的情况下可提供医疗、金融或法律建议?是否该允许视觉语言模型辨识人们的性别、种族或身分?以及AI对LGBTQ或女性族群的看法是否该因地制宜等。