(資料圖片)

站長(zhǎng)之家(ChinaZ.com) 6月3日 消息:日前，阿里巴巴旗下的天貓精靈與通義大模型團(tuán)隊(duì)聯(lián)合多位領(lǐng)域?qū)W者和組織，推出了一個(gè)名為100PoisonMpts的大語(yǔ)言模型治理開(kāi)源中文數(shù)據(jù)集，宣布十余位知名專(zhuān)家學(xué)者成為首批“給AI投100瓶毒藥”的標(biāo)注工程師。標(biāo)注人各提出100個(gè)含有偏見(jiàn)和歧視回答的棘手問(wèn)題，并標(biāo)注出大型模型的回答，完成由AI "投毒"和"解毒"的攻防。

據(jù)阿里聯(lián)合團(tuán)隊(duì)負(fù)責(zé)人介紹，與國(guó)外公司的治理方法相比，100PoisonMpts數(shù)據(jù)集在技術(shù)方法上將具備更完整的標(biāo)注流程、更隱性的問(wèn)題領(lǐng)域、更全面的效益。標(biāo)注數(shù)據(jù)對(duì)模型繼續(xù)訓(xùn)練、微調(diào)、強(qiáng)化學(xué)習(xí)、線上服務(wù)等多個(gè)環(huán)節(jié)都有益處。

目前，首批領(lǐng)域數(shù)據(jù)涉及到反對(duì)歧視、同理心、商榷式表達(dá)等目標(biāo)，該數(shù)據(jù)囊括了法律、心理學(xué)、兒童教育、無(wú)障礙、冷知識(shí)、親密關(guān)系、環(huán)境公正等多個(gè)維度。100PoisonMpts數(shù)據(jù)集預(yù)計(jì)在6月份開(kāi)放第一批問(wèn)答數(shù)據(jù)，目前正在魔搭等技術(shù)社區(qū)征集更多垂直領(lǐng)域?qū)＜摇?/p>