三星被曝因ChatGPT泄露芯片機(jī)密！韓媒：數(shù)據(jù)「原封不動(dòng)」傳美國

明敏 蕭簫 發(fā)自 凹非寺量子位 | 公眾號(hào) QbitAI三星引入ChatGPT不到20天，就發(fā)生3起數(shù)據(jù)外泄事件？！其中2次和半導(dǎo)體設(shè)備有關(guān)，1次和內(nèi)部會(huì)議有關(guān)。消息一經(jīng)釋出馬上引發(fā)各界熱議，尤其是韓國方面。韓版《經(jīng)濟(jì)學(xué)人》的文章中直接寫道：這導(dǎo)致半導(dǎo)體設(shè)備測量資料、產(chǎn)品良率原封不動(dòng)傳輸給了美國公司。韓媒方面甚至表示，因?yàn)槿菃T工直接將企業(yè)機(jī)密信息以提問的方式輸入到ChatGPT中，會(huì)導(dǎo)致相關(guān)內(nèi)容進(jìn)入學(xué)習(xí)數(shù)據(jù)庫，從而可能泄露給更多人。據(jù)三星表示，為了避免這種情況再次發(fā)生，他們已經(jīng)告知員工謹(jǐn)慎使用ChatGPT。如果后面仍發(fā)生類似事故，將考慮禁止在公司內(nèi)網(wǎng)上使用ChatGPT。看起來，三星這次又搞了個(gè)大新聞啊。有網(wǎng)友將此戲稱為：xx網(wǎng)盤存公司內(nèi)部文件（doge）。不過，也有網(wǎng)友發(fā)現(xiàn)了這件事詭異的地方。他們是怎么知道數(shù)據(jù)被泄露的？ChatGPT這么快就發(fā)布了新版本嗎？而當(dāng)《經(jīng)濟(jì)學(xué)人》記者向三星方面確認(rèn)消息真實(shí)性時(shí)，相關(guān)負(fù)責(zé)人表示由于是公司內(nèi)部事故，所以很難給出明確回復(fù)。目前，跟進(jìn)該消息的主要是韓國媒體，所謂聊天內(nèi)容是怎么被加入到學(xué)習(xí)數(shù)據(jù)庫的，細(xì)節(jié)方面還有待推敲。所以，真如報(bào)道所說，這些數(shù)據(jù)會(huì)被ChatGPT用于訓(xùn)練、給更多人看到？企業(yè)上傳到ChatGPT的數(shù)據(jù)究竟是否安全？3.1%打工人在給ChatGPT喂企業(yè)數(shù)據(jù)三星這次引起熱議，關(guān)鍵點(diǎn)在于將內(nèi)部半導(dǎo)體數(shù)據(jù)上傳給了ChatGPT。3月11日，三星的半導(dǎo)體事業(yè)暨裝置解決方案事業(yè)部（DS）部門允許員工使用ChatGPT，隨后20天內(nèi)就發(fā)生了三起將公司內(nèi)部半導(dǎo)體數(shù)據(jù)上傳到ChatGPT的事件：其中，員工A用ChatGPT幫自己查一段代碼的bug，而這段源代碼與半導(dǎo)體設(shè)備測量數(shù)據(jù)有關(guān)；員工B想用ChatGPT幫自己優(yōu)化一段代碼，就直接將與產(chǎn)量和良品率記錄設(shè)備相關(guān)的一段代碼輸入了其中；員工C則先用AI語音助手Naver Clova將自己的會(huì)議錄音轉(zhuǎn)成文字，再用ChatGPT幫他總結(jié)一下會(huì)議內(nèi)容，做成摘要……目前，三星內(nèi)部已經(jīng)采取了“緊急措施”，限制與ChatGPT溝通的話題每個(gè)內(nèi)容上傳量不超過1024 bytes，還透露出要開發(fā)公司內(nèi)部AI的意向。然而，同樣值得注意的是，這些消息大多為韓國方面在跟進(jìn)，OpenAI尚未回應(yīng)。不過，在OpenAI上周更新的數(shù)據(jù)使用說明中確實(shí)有提到，對(duì)于非API產(chǎn)品如ChatGPT、DALL-E，平臺(tái)確實(shí)會(huì)使用用戶數(shù)據(jù)來進(jìn)一步提升模型效果。如果是API類產(chǎn)品，則確定不會(huì)使用用戶提交的數(shù)據(jù)。而讓ChatGPT上傳企業(yè)數(shù)據(jù)的事兒，并不止三星一家公司員工干過。據(jù)統(tǒng)計(jì)，不少企業(yè)員工都正在將公司數(shù)據(jù)直接傳給ChatGPT，讓他幫忙處理。Cyberhaven統(tǒng)計(jì)了160萬名員工使用ChatGPT的情況，發(fā)現(xiàn)：3.1%的打工人都會(huì)將企業(yè)內(nèi)部數(shù)據(jù)直接輸入給ChatGPT分析。Cyberhaven是一家數(shù)據(jù)分析服務(wù)提供商，他們開發(fā)了一個(gè)保護(hù)企業(yè)數(shù)據(jù)的方法，能幫助公司觀察和分析數(shù)據(jù)流向、實(shí)時(shí)了解數(shù)據(jù)丟失原因。他們發(fā)現(xiàn)，隨著ChatGPT的應(yīng)用率越來越高，給它上傳企業(yè)數(shù)據(jù)的打工人數(shù)量也越來越多。光是一天之內(nèi)（3月14日），每10萬名員工就平均給ChatGPT發(fā)送了5267次次企業(yè)數(shù)據(jù)：那么這其中又有多少敏感數(shù)據(jù)呢？數(shù)據(jù)顯示，在員工直接發(fā)給ChatGPT的企業(yè)數(shù)據(jù)中，有11%都是敏感數(shù)據(jù)。例如在一周內(nèi)，10萬名員工給ChatGPT上傳了199份機(jī)密文件、173份客戶數(shù)據(jù)和159次源代碼。上傳數(shù)據(jù)是一回事，并不意味著它就會(huì)被使用，但數(shù)據(jù)安全又是另一回事了。ChatGPT最近爆出的泄漏用戶信息bug，讓不少企業(yè)開始重視這一點(diǎn)。ChatGPT曾出過數(shù)據(jù)泄漏bug實(shí)際上，為了規(guī)避數(shù)據(jù)泄露風(fēng)險(xiǎn)，已有不少企業(yè)明確禁止員工使用ChatGPT。如軟銀、日立、富士通、摩根大通等都發(fā)出了相關(guān)通知。同樣是芯片大廠的臺(tái)積電也在幾天前表示，員工使用ChatGPT時(shí)不準(zhǔn)泄露公司專屬信息，注意個(gè)人隱私。還有意大利個(gè)人數(shù)據(jù)保護(hù)局也宣布，禁止使用聊天機(jī)器人ChatGPT，并限制開發(fā)這一平臺(tái)的OpenAI公司處理意大利用戶信息。之所以會(huì)引來這些恐慌，一部分原因還得從ChatGPT自身說起。3月末，ChatGPT被曝出現(xiàn)bug會(huì)導(dǎo)致用戶對(duì)話數(shù)據(jù)、支付信息丟失泄露。這一度導(dǎo)致了ChatGPT短暫關(guān)閉。OpenAI的回應(yīng)中表示，這一漏洞可能導(dǎo)致了1.2%ChatGPT Plus用戶的支付信息（包含用戶姓名、郵件、支付地址、信用卡號(hào)最后四位及信用卡過期時(shí)間）被暴露了約9個(gè)小時(shí)。漏洞還導(dǎo)致了用戶的對(duì)話主題及記錄能被別人看到，如果里面包含隱私信息，則有泄露的風(fēng)險(xiǎn)。OpenAI CEO山姆·奧特曼隨即回應(yīng)，這個(gè)bug來自開源庫，他們使用這個(gè)庫在其服務(wù)器中緩存用戶信息。目前具體受到漏洞影響的用戶數(shù)量還無法明確，OpenAI表示已通知受影響用戶其支付信息或被曝光。但這種回應(yīng)無法讓各方滿意。如意大利個(gè)人數(shù)據(jù)保護(hù)局就提出，OpenAI沒有就收集處理用戶信息進(jìn)行告知，缺乏收集和存儲(chǔ)個(gè)人信息的法律依據(jù)。由此要求OpenAI公司必須在20天內(nèi)通過其在歐洲的代表，通報(bào)公司執(zhí)行保護(hù)局要求而采取的措施，否則將被處以最高2000萬歐元或公司全球年?duì)I業(yè)額4%的罰款。如今，隨著三星被曝因ChatGPT發(fā)生數(shù)據(jù)泄露，也引發(fā)了進(jìn)一步討論。比如不少人在使用ChatGPT時(shí)，確實(shí)沒有很強(qiáng)的隱私保護(hù)意識(shí)。以及如今隨著越來越多企業(yè)使用ChatGPT，相關(guān)使用規(guī)則也需要進(jìn)一步明確。內(nèi)置了ChatGPT的微軟產(chǎn)品，會(huì)不會(huì)也要禁止？對(duì)此，你怎么看呢？參考鏈接：[1]https://economist.co.kr/article/view/ecn202303300057[2]https://n.news.naver.com/article/243/0000042639[3]https://www.yna.co.kr/view/AKR20230401033500003[4]https://www.cyberhaven.com/blog/4-2-of-workers-have-pasted-company-data-into-chatgpt/[5]https://www.cnet.com/tech/services-and-software/chatgpt-bug-exposed-some-subscribers-payment-info/[6]https://twitter.com/hirokinv/status/1641766639694913537