ChatGPT a nová umělá inteligence páchají zmatek v kybernetické bezpečnosti zábavným i děsivým způsobem.

Generativní umělá inteligence transformuje kybernetickou bezpečnost a pomáhá jak útočníkům, tak obráncům. Kyberkriminálníci využívají AI k provádění sofistikovaných a nových útoků ve velkém měřítku. A obránci používají stejnou technologii k ochraně kritické infrastruktury, vládních organizací a firemních sítí, uvedl Christopher Ahlberg, CEO platformy pro hrozby Recorded Future.

Generativní umělá inteligence pomohla špatným aktérům inovovat a vyvíjet nové strategie útoků, umožňujíc jim být krok před kybernetickými obranami. Umělá inteligence pomáhá kyberzločincům automatizovat útoky, vyhledávat plochy útoků a generovat obsah, který rezonuje s různými geografickými oblastmi a demografií, což jim umožňuje cílit širší rozsah potenciálních obětí v různých zemích. Kyberzločinci přijali tuto technologii k vytváření přesvědčivých phishingových e-mailů. Umělá inteligence-generovaný text pomáhá útočníkům vytvářet vysoce personalizované e-maily a textové zprávy, které mají větší šanci napálit cíle.

„Myslím si, že nemusíte příliš kreativně přemýšlet, abyste si uvědomili, že tohle skutečně může pomoci [kyberkriminálníkům] stát se autory, což je problém," řekl Ahlberg.

Obhájci používají umělou inteligenci k obraně před útoky. Organizace využívají tuto technologii k prevenci úniků a proaktivnímu vyhledávání zranitelností sítě. Dále dynamicky automatizuje úkoly, jako je nastavování upozornění pro konkrétní klíčová slova a detekce citlivých informací online. Hrozbu lovci využívají umělou inteligenci k identifikaci neobvyklých vzorů a shrnování velkého množství dat, propojování informací z různých zdrojů a odhalování skrytých vzorů.

Práce stále vyžaduje lidské odborníky, ale Ahlberg říká, že generativní AI technologie, kterou vidíme v projektech jako ChatGPT, může pomoci.

"Chceme zrychlit analýzu cyklu a pomoci nám analyzovat rychlostí myšlení," řekl. "Je to velmi obtížná věc a myslím, že tu vidíme průlom, což je poměrně vzrušující."

Ahlberg také diskutoval o potenciálních hrozbách, které by mohly přinést vysoko inteligentní stroje. S rostoucí digitalizací a propojeností světa by schopnost ohýbat realitu a formovat vnímání mohla být zneužita zlomyslnými aktéry. Tyto hrozby nejsou omezené na národní státy, což činí situaci ještě složitější a asymetrickou.

Umělá inteligence má potenciál pomoci chránit proti těmto vzrůstajícím hrozbám, ale také představuje vlastní soubor rizik. Například stroje s vysokými zpracovatelskými schopnostmi by mohly hackovat systémy rychleji a efektivněji než lidé. Proti těmto hrozbám je potřeba zajistit, aby byla AI používána defenzivně a s jasným pochopením toho, kdo má kontrolu.

Jak AI proniká stále více do společnosti, je důležité, aby zákonodárci, soudci a další osobnosti rozhodování porozuměli této technologii a jejím důsledkům. Budování silných spojení mezi technickými odborníky a politickými činiteli bude zásadní při navigaci budoucností AI ve vyhledávání hrozeb a dál.

Příležitosti, výzvy a etické úvahy umělé inteligence v kybernetické bezpečnosti jsou složité a se vyvíjejí. Zajištění nestranných modelů umělé inteligence a udržování lidské účasti při rozhodování pomůže řešit etické výzvy. Ostražitost, spolupráce a jasný porozumění technologii budou zásadní pro zvládání potenciálních dlouhodobých hrozeb vysoce inteligentními stroji.

Ahlberg tak vyjádřil obavy ohledně Číny, Ruska a ekonomických soupeřů, kteří nasazují autonomní stroje. Tyto země pravděpodobně nezpomalí vývoj AI ani se nebudou sdílet etická zvažování. Zatímco možnost "vypnout" takové stroje je chytrým zajištěním, naznačuje, že integrace technologie do společnosti a globální ekonomiky pravděpodobně znesnadní oddělení. Ahlberg zdůrazňuje potřebu navrhovat produkty a stroje s jasným vymezením, kdo je ovládá.

"To velkou věc, kterou internet udělal v této situaci, je že internet se stal místem, kam všechny informace na světě migrovaly," řekl Ahlberg. "Tyto velké jazykové modely dělají docela magické věci... pro urychlení toho myšlenkového cyklu."

Dodal: "V příštích 25 letech se svět stane odrazem internetu."