7月19日消息,昨日舉辦的阿斯彭安全論壇(Aspen Security Forum)會議中,谷歌、微軟、OpenAI、亞馬遜、英偉達、英特爾等 14 家 AI 領域的大公司宣布聯(lián)合組建安全人工智能聯(lián)盟(Coalition for Secure AI,CoSAI)。
CoSAI 由 OASIS 全球標準機構主辦,是一項開源計劃,旨在為所有 AI 從業(yè)人員和開發(fā)人員提供創(chuàng)建設計安全人工智能系統(tǒng)所需的指導和工具。CoSAI 將建立一個合作生態(tài)系統(tǒng),共享開源方法、標準化框架和工具等等。
CoSAI 的創(chuàng)始贊助商包括谷歌、IBM、英特爾、微軟、英偉達和 PayPal。其他創(chuàng)始贊助商包括亞馬遜、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI 和 Wiz。
CoSAI 首先將致力于實現(xiàn)三個目標:
.應對人工智能領域的挑戰(zhàn)
CoSAI 的工作范圍包括安全地構建、集成、部署和運行人工智能系統(tǒng),重點是降低模型盜竊、數(shù)據(jù)中毒、提示注入、規(guī)模濫用和推理攻擊等風險。
CoSAI 是一個開源社區(qū),由項目理事會和技術指導委員會領導,前者負責推進和管理其總體技術議程,后者由學術界和產(chǎn)業(yè)界的人工智能專家組成,負責監(jiān)督其工作流。
附上谷歌安全副總裁希瑟?阿德金斯(Heather Adkins)在聲明中的部分內(nèi)容如下:
AI 發(fā)展多年,為防御者帶來的持續(xù)潛力,同時也認識到它為對手帶來的機遇。
CoSAI 將幫助大大小小的組織安全、負責任地整合人工智能,幫助他們利用人工智能的優(yōu)勢,同時降低風險。
分享到微信 ×
打開微信,點擊底部的“發(fā)現(xiàn)”,
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。