AI圖像生成工具Copilot Designer被曝存在安全漏洞)

智通財(cái)經(jīng)APP獲悉,，微軟的一名軟件工程師致信該公司董事會(huì),、議員和美國(guó)聯(lián)邦貿(mào)易委員會(huì),，警告這家科技巨頭在保護(hù)其人工智能圖像生成工具Copilot Designer免受濫用和暴力內(nèi)容的影響方面做得不夠。

微軟的人工智能工程師Shane Jones表示,，他在OpenAI最新的DALL-E圖像生成器模型中發(fā)現(xiàn)了一個(gè)安全漏洞,，該漏洞允許他繞過(guò)防止該工具創(chuàng)建有害圖像的護(hù)欄。DALL-E模型嵌入了微軟的許多人工智能工具中,，包括Copilot Designer,。

據(jù)Jones發(fā)給FTC的一封信顯示，他向微軟報(bào)告了這一發(fā)現(xiàn),，并“一再敦促”微軟“在更好的保護(hù)措施出臺(tái)之前,，將‘Copilot Design從公眾使用中移除”。

Jones寫道:“雖然微軟公開(kāi)宣傳Copilot Designer是一種安全的人工智能產(chǎn)品,，適合所有人使用,，包括任何年齡的兒童，但公司內(nèi)部清楚地意識(shí)到,，該產(chǎn)品正在制造有害的圖像,，可能會(huì)冒犯消費(fèi)者,，不適合消費(fèi)者。Copilot Designer不包括必要的產(chǎn)品警告或信息披露,，消費(fèi)者需要意識(shí)到這些風(fēng)險(xiǎn),。”

FTC證實(shí)收到了這封信,，但拒絕進(jìn)一步置評(píng),。

這一猛烈抨擊呼應(yīng)了人們對(duì)人工智能工具產(chǎn)生有害內(nèi)容趨勢(shì)的日益擔(dān)憂。上周,，微軟表示,，它正在調(diào)查有關(guān)其Copilot聊天機(jī)器人產(chǎn)生用戶稱之為令人不安的反應(yīng)的報(bào)道，其中包括有關(guān)自殺的復(fù)雜信息,。今年2月,，谷歌的旗艦人工智能產(chǎn)品Gemini因在被提示創(chuàng)建人物圖像時(shí)產(chǎn)生歷史上不準(zhǔn)確的場(chǎng)景而受到指責(zé)。

Jones還寫信給微軟董事會(huì)的環(huán)境,、社會(huì)和公共政策委員會(huì),。Jones在信中表示:“我認(rèn)為我們不需要等待政府監(jiān)管來(lái)確保我們對(duì)消費(fèi)者透明地了解人工智能的風(fēng)險(xiǎn)?？紤]到我們的企業(yè)價(jià)值觀,，我們應(yīng)該自愿和透明地披露已知的人工智能風(fēng)險(xiǎn)，特別是在人工智能產(chǎn)品積極向兒童推銷的情況下,。”

微軟在一份聲明中表示,，它“致力于根據(jù)公司政策解決員工的任何和所有擔(dān)憂,，并感謝員工在研究和測(cè)試我們的最新技術(shù)以進(jìn)一步提高其安全性方面所做的努力?！?/p>

OpenAI沒(méi)有回應(yīng)置評(píng)請(qǐng)求,。

Jones表示，在過(guò)去的三個(gè)月里,，他多次向公司表達(dá)了自己的擔(dān)憂,。今年1月，他寫信給代表華盛頓州的民主黨參議員Patty Murray和Maria Cantwell,，以及眾議院眾議員Adam Smith,。在一封信中，他要求立法者調(diào)查“人工智能圖像生成技術(shù)以及制造和銷售這些產(chǎn)品的公司的公司治理和負(fù)責(zé)任的人工智能實(shí)踐”的風(fēng)險(xiǎn),。

這些議員沒(méi)有立即回應(yīng)置評(píng)請(qǐng)求,。