Použití ChatGPT zaměstnanci Samsungu vedlo k úniku důvěrných dat

Divize Samsungu pro polovodiče spoléhala na ChatGPT k řešení problémů ve svém zdrojovém kódu. Bohužel, při používání AI chatbota omylem odhalila důvěrné informace, například zdrojový kód pro nový program a interní zápis ze schůzky o jejich hardwaru. Bohužel to nebyl ojedinělý případ, jelikož bylo oznámeno tři incidenty během jednoho měsíce.

Aby se vyhnuli podobným porušením v budoucnosti, Samsung nyní pracuje na vývoji vlastního nástroje AI podobného ChatGPT určeného výhradně pro interní zaměstnanecké použití. Toto umožní zaměstnancům fabrik získávat rychlou pomoc při zabezpečení citlivých informací společnosti. Avšak tento nový nástroj bude zpracovávat pouze dotazy o velikosti do 1024 bajtů.

Problém nastal, protože ChatGPT je spravován třetí stranou, která využívá externí servery. Proto, když Samsung vložil svůj kód, testovací sekvence a interní obsah setkání do programu, údaje unikly. Samsung okamžitě informoval své vedení a zaměstnance o riziku ohrožení důvěrných informací. Do 11. března Samsung svým zaměstnancům nepovolil používat chatbota.

Samsung není jediná společnost, která se potýká s tímto problémem. Mnoho společností omezuje používání ChatGPT, dokud nevytvoří jasnou politiku týkající se používání generativní AI. I když ChatGPT poskytuje možnost odhlášení získávání uživatelských dat, je třeba poznamenat, že informace poskytnuté službě mohou stále být přístupné jejím vývojářům.

Co je ChatGPT a jak funguje?

ChatGPT je aplikace umělé inteligence vyvinutá společností OpenAI, která využívá hlubokého učení k produkci lidského textu jako odpověď na pokyny uživatele. Dokáže generovat texty různých stylů a pro různé účely, včetně psaní textů, odpovídání na otázky, tvorby e-mailů, provádění konverzací, překladu přirozeného jazyka do kódu a vysvětlování kódu v různých programovacích jazycích.

ChatGPT funguje tak, že předvídá další slovo ve zadaném textu pomocí vzorců, které se naučil z obrovského množství dat během svého tréninkového procesu. Analýzou kontextu dotazu a jeho minulého učení ChatGPT generuje odpověď, která je zamýšlena být co nejpřirozenější a souvislá.

Jaká opatření přijala společnost Samsung k tomu, aby předešla budoucím únikům?

Po datových únicích vyvolaných ChatGPT přijala společnost Samsung několik opatření, aby předešla podobným incidentům v budoucnosti. Za prvé, společnost svým zaměstnancům doporučila opatrnost při sdílení dat s ChatGPT. Dále byla zavedena omezení délky otázek, které lze odeslat do služby, s maximálním omezením na 1024 bajtů.

Kromě toho Samsung momentálně vyvíjí nástroj umělé inteligence podobný ChatGPT, ale výhradně pro interní zaměstnanecké použití. Tím se zajistí, že pracovníci v továrnách obdrží promptní pomoc při zabezpečení citlivých firemních informací. Do doby, než bude tento nástroj vyvinut, Samsung upozornil své zaměstnance na potenciální rizika spojená s použitím ChatGPT. Také zdůraznili, že data zadávaná do ChatGPT jsou přenášena a ukládána na externí servery, což znamená, že firma nemá kontrolu nad daty poté, co jsou předána.

Jaké byly důsledky pro zaměstnance, kteří unikli důvěrná data?

Důsledky pro zaměstnance Samsungu, kteří unikly důvěrná data do ChatGPT, nebyly na základě dostupných informací explicitně uvedeny. Nicméně společnost Samsung Electronics přijímá opatření k zabránění dalších úniků citlivých informací prostřednictvím ChatGPT, včetně stanovení limitu 1024 bytů na velikost předložených otázek. Společnost také upozornila své zaměstnance na potenciální rizika spojená s používáním ChatGPT.

Kromě toho společnost Samsung Semiconductor vyvíjí vlastní nástroj AI pro interní použití zaměstnanci, který bude omezen na zpracování instrukcí o velikosti do 1024 bajtů. Tyto kroky naznačují, že Samsung bere vážně ochranu svých důvěrných informací a implementuje opatření ke snižování rizik spojených s používáním ChatGPT.

Jaký typ důvěrných informací byl zveřejněn?

Kolikrát zaměstnanci společnosti Samsung unikli důvěrná data do ChatGPT?

Podle výsledků vyhledávání zaměstnanci společnosti Samsung unikli důvěrné informace společnosti do ChatGPT alespoň třikrát.