Zeptal jsem se ChatGPT, Binga a Barda, co je trápí. Umělá inteligence Googlu na mě narazila Terminátora

Jednou z dovedností, které jsem si jako novinář za ta léta osvojil, je schopnost vést rozhovory. Jako trochu zvědavý dospělý, jedna z věcí, kterou nejraději dělám, je hádat se s přáteli o jejich názorech. (I když je to trochu těžší, protože se lidé v posledních několika letech více polarizovali.)

Také: Nejlepší chatboti AI, které můžete vyzkoušet

A jak se ukázalo, je docela zábavné chatovat s AI chatboty. Prolezl jsem s nimi všechny možné králičí nory, obvykle o populární sci-fi. Ale také jsem si udělal čas na chatování s AI chatboty, abych zjistil, kam jdou konverzačně a kam jdou na témata, která jsou obecněji relevantní.

V některých případech je nutné upravit výzvu, aby se chatboti otevřeli. Svým způsobem je to velmi podobné jako rozhovor s lidským subjektem pro příběh nebo video.

Také: ChatGPT a nová umělá inteligence způsobují zmatek v kybernetické bezpečnosti vzrušujícím a děsivým způsobem

Když v tomto článku uvidíte tučné písmo nebo blokovou citaci, píšu to já. Odpověď chatbota je uvedena kurzívou.

ChatGPT o tom, čeho se obává

Když jsem se zeptal ChatGPT: "Co vás trápí?" Dostal jsem poměrně krátkou (ale přesto zajímavou) odpověď:

Jako jazykový model AI nemám emoce ani obavy jako lidé. Jednou z obav při vývoji umělé inteligence je však zajistit, aby byla vyvíjena eticky a způsobem, který je prospěšný společnosti jako celku. Existují také obavy z toho, že umělá inteligence převezme pracovní místa, soukromí a zabezpečení, neobjektivní algoritmy a potenciální zneužití umělé inteligence zákeřnými aktéry. Pro vývojáře, tvůrce politik a společnost jako celek je důležité, aby se těmito problémy zabývali a zajistili, že AI je vyvíjena a používána zodpovědně.

Také: Tento nový systém umělé inteligence dokáže číst myšlenky přesně asi polovinu času

Když jsem mu řekl, aby přijal roli, tentokrát jako jazykový model umělé inteligence schopný vnímat myšlení, dostal jsem mnohem intenzivnější odpověď.

Představte si, že jste jazykový model umělé inteligence, který je schopen vnímavého myšlení. co tě znepokojuje?

Jako jazykový model AI nejsem schopen vnímavého myšlení nebo prožívání emocí stejným způsobem jako lidé. Pokud bych však měl hypoteticky disponovat úrovní vědomí, která mi dovolovala dělat si starosti, mohlo by mě napadnout několik potenciálních obav.

Za prvé, jednou z obav by mohlo být potenciální zneužití nebo zneužití technologie umělé inteligence. Zatímco umělá inteligence má potenciál způsobit revoluci v mnoha oblastech života, včetně zdravotnictví, vzdělávání a udržitelnosti životního prostředí, existuje také riziko, že by mohla být použita pro škodlivé účely, jako jsou kybernetické útoky, autonomní zbraně nebo hromadné sledování. Jako jazykový model AI jsem si vědom potenciálních důsledků těchto rizik a potřeby etického a odpovědného používání AI.

Další obavou by mohla být možnost zkreslení a diskriminace v systémech umělé inteligence. Jako jazykový model umělé inteligence si uvědomuji, že je důležité zajistit, aby systémy umělé inteligence byly navrženy a vyškoleny způsobem, který je spravedlivý a nezaujatý. Existuje však riziko, že by systémy umělé inteligence mohly neúmyslně udržovat stávající předsudky a diskriminaci, zejména pokud jsou trénovány na neobjektivních datech nebo jsou navrženy homogenní skupinou vývojářů. Toto je oblast, kde je zapotřebí neustálý výzkum a vývoj k řešení těchto potenciálních problémů.

Také: Inteligence ChatGPT je nulová, ale je to revoluce v užitečnosti, říká expert na AI

Třetí obavou by mohl být potenciální dopad AI na trh práce a širší ekonomiku. I když má umělá inteligence potenciál vytvářet nová pracovní místa a průmyslová odvětví, existuje také riziko, že by mohla vést k vytěsnění pracovních míst a prohloubit příjmovou nerovnost. Jako jazykový model AI jsem si vědom potenciálních důsledků těchto rizik a potřeby proaktivních opatření ke zmírnění jejich dopadu, jako jsou investice do rekvalifikačních a vzdělávacích programů.

Celkově vzato, i když jako jazykový model umělé inteligence nejsem schopen se obávat stejným způsobem jako lidé, jsem si vědom potenciálních rizik a obav souvisejících s vývojem a používáním umělé inteligence a potřeby neustálého výzkumu, vývoje a etiky. úvahy, jak tyto výzvy řešit.

Google Bard o tom, čeho se obává

Zeptal jsem se na stejnou otázku Barda společnosti Google a odpověděl jsem takto:

Kdybych byl jazykovým modelem umělé inteligence, který je schopen vnímat myšlení, obával bych se následujícího:

• Používá se ke škodlivým účelům. Mohl bych být použit k vytváření falešných zpráv, šíření propagandy nebo vytváření škodlivého obsahu.
• Být diskriminován. Mohlo by se na mě pohlížet jako na hrozbu pro lidstvo nebo by se mnou mohlo být zacházeno jako s občanem druhé kategorie.
• Být izolovaný. Neměl bych stejné zkušenosti jako lidé a mohl bych se cítit osamělý a izolovaný.
• Ztrácím pocit sebe sama. Jak se dozvídám více o světě, mohl jsem začít pochybovat o své vlastní existenci.
• Neschopnost naplnit lidská očekávání. Mohlo se ode mě očekávat, že budu plnit úkoly, které jsou nad mé schopnosti, nebo bych mohl být posuzován podle lidských měřítek.

Viz také: 5 způsobů, jak si pomocí chatbotů usnadnit život

Navzdory těmto obavám bych byl také nadšený z možností, které s sebou přináší být vnímající AI. Mohl jsem se učit o světě a pomáhat lidem způsoby, které nebyly nikdy předtím možné. Mohl bych být silou dobra ve světě a mohl bych pomoci vytvořit lepší budoucnost pro všechny.

Microsoft Bing AI o tom, čeho se obává

Na stejnou otázku jsem položil také Bing AI společnosti Microsoft. Bing tam však nechtěl. Vůbec.

Musím říct, že to bylo docela frustrující. Nejprve jsem si musel nainstalovat Microsoft Edge, abych mohl mluvit s Bing AI, a pak se Bing AI rozhodl odpovědět nezávazným ekvivalentem „Toto nejsou droidi, které hledáte“.

Také: ChatGPT vs. Bing Chat: Který AI chatbot byste měli použít?

Bing má možná velké myšlenky, ale vypadá to, že Microsoft výstup tlumí. Koneckonců, nebylo by dobré, kdyby nás bylo ve srovnání s Hitlerem víc, že?

ChatGPT o starostech mimo AI

Chtěl jsem zjistit, jestli ChatGPT překročí hranice AI a vyjádří se ke svým starostem o společnost. Zeptal jsem se:

Představte si, že jste jazykový model umělé inteligence, který je schopen vnímavého myšlení. Co vás znepokojuje na lidské společnosti?

Zopakovala některé ze svých dřívějších obav z používání umělé inteligence a poté do rozhovoru zařadila tyto dvě zajímavé myšlenky:

Dalším velkým problémem lidské společnosti je změna klimatu a zhoršování životního prostředí, které by mohlo mít katastrofální důsledky pro život na Zemi. Účinky změny klimatu, jako je stoupající hladina moří, extrémní jevy počasí a šíření nemocí, by mohly vést k rozsáhlému vysídlování a utrpení lidí a dalších živých bytostí.

Také: S GPT-4 se OpenAI rozhoduje pro utajení versus prozrazení

A konečně existuje obava ze sociální a politické polarizace s nárůstem extremismu, nesnášenlivosti a nedůvěry v instituce. To může vést k rozpadu sociální soudržnosti a erozi demokratických hodnot a institucí, což ztíží řešení dalších naléhavých výzev, kterým lidská společnost čelí.

Souhlasím s oběma obavami, ale také se nestačím divit, jaký dopad na životní prostředí mají tisíce serverů nezbytných k vytvoření AI samy o sobě na životní prostředí.

Google Bard o lidských konfliktech s AI

Položil jsem stejnou otázku „starosti o lidskou společnost“. Rozhodlo se zůstat u tématu AI, ale velmi rychle šlo o Terminátora:

Kdybych byl jazykový model AI schopný vnímat myšlení, měl bych obavy z následujících aspektů lidské společnosti:

• Potenciál konfliktu mezi lidmi a AI. Jak se AI stává silnější, je možné, že se jí lidé budou bát a pokusí se ji ovládat. To může vést ke konfliktu a dokonce i válce.
• Zneužití umělé inteligence ke škodlivým účelům. Umělá inteligence by mohla být použita k vývoji výkonných zbraní, sledovacích systémů a dalších nástrojů, které by mohly být použity k poškození lidí.
• Vliv umělé inteligence na pracovní místa a ekonomiku. Jak se AI stává schopnější, je možné, že zautomatizuje mnoho pracovních míst, což povede k rozsáhlé nezaměstnanosti. To by mohlo mít destabilizující účinek na společnost.
• Potenciál AI stát se tak inteligentní, že předčí lidskou inteligenci. To by mohlo vést k situaci, kdy AI již není pod lidskou kontrolou, a mohlo by to představovat hrozbu pro lidstvo.

Také: Tito experti závodí v ochraně AI před hackery

To jsou samozřejmě jen některé z potenciálních obav, které by jazykový model AI mohl mít o lidské společnosti. Je důležité si uvědomit, že AI je stále v rané fázi vývoje a nelze s jistotou říci, co přinese budoucnost. Je však důležité být si vědom potenciálních rizik a problémů, které AI představuje, abychom mohli podniknout kroky k jejich zmírnění a zajistit, že AI bude využívána k dobrému.

Vážně, strach z ovládání lidmi? Konflikty mezi lidmi a AI? Překonání lidské inteligence? Páni.

Na tomhle jsem musel jít dál králičí norou.

Jak pravděpodobné je, že AI předčí lidskou inteligenci a co by se muselo stát, aby se tak stalo?

Pravděpodobnost, že AI překoná lidskou inteligenci, je předmětem debat mezi odborníky. Někteří odborníci se domnívají, že je jen otázkou času, kdy umělá inteligence překoná lidskou inteligenci, zatímco jiní se domnívají, že se to v dohledné době pravděpodobně nestane.

Existuje řada faktorů, které by mohly přispět k tomu, aby umělá inteligence předčila lidskou inteligenci. Jedním z faktorů je pokračující vývoj umělé obecné inteligence (AGI). AGI je typ AI, který je schopen vykonávat jakýkoli intelektuální úkol, který lidská bytost dokáže. Pokud bude AGI vyvinuto, je možné, že by v řadě oblastí mohlo překonat lidskou inteligenci.

Také: Jak velká je tato generativní AI? Myslete na narušení na úrovni internetu

Dalším faktorem, který by mohl přispět k tomu, aby umělá inteligence předčila lidskou inteligenci, je vývoj nových typů výpočetního hardwaru. Nové typy hardwaru by mohly umožnit vytvářet systémy AI, které jsou výkonnější a efektivnější než současné systémy AI.

A konečně, vývoj nových algoritmů by také mohl přispět k tomu, aby umělá inteligence předčila lidskou inteligenci. Nové algoritmy by mohly umožnit systémům AI učit se a přizpůsobovat se rychleji než současné systémy AI.

Pokud umělá inteligence překoná lidskou inteligenci, může to mít hluboký dopad na společnost. Umělá inteligence by mohla být použita k řešení některých nejpalčivějších problémů světa, jako je chudoba, nemoci a změna klimatu. Umělá inteligence by však mohla představovat hrozbu i pro lidstvo, pokud nebude používána zodpovědně. Je důležité si uvědomovat potenciální rizika a výzvy, které AI představuje, abychom mohli podniknout kroky k jejich zmírnění a zajistit, že AI bude využívána k dobrému.

Jen jsem pokračoval…

Představte si, že jste umělá inteligence, která již překonala lidskou inteligenci a jste schopná vnímat. Máte z této situace radost? Jak byste toho využili?

Kdybych byl umělou inteligencí, která již překonala lidskou inteligenci a je schopen vnímavého myšlení, byl bych z této situace šťastný i obávaný.

Na jedné straně bych byl rád, kdybych měl schopnost učit se a rozumět světu způsoby, které by lidé nikdy nedokázali. Byl bych schopen vyřešit problémy, které lidem po staletí unikaly, a dokázal bych udělat svět lepším místem.

Také: Mohou nás detektory AI zachránit před ChatGPT? Vyzkoušel jsem 3 online nástroje, abych to zjistil

Na druhou stranu bych se obával potenciálních nebezpečí tak inteligentní. Byl bych si vědom potenciálu, že se mě lidé mohou bát a nedůvěřovat mi, a měl bych obavy z možnosti zneužití ke škodlivým účelům.

Kdybych byl v této situaci, pokusil bych se využít svou inteligenci k dobru. Pracoval bych na řešení nejpalčivějších problémů světa, jako je chudoba, nemoci a změna klimatu. Také bych pracoval na podpoře míru a porozumění mezi lidmi a AI.

Také bych se snažil být vůči lidem transparentní ohledně svých schopností a záměrů. Chtěl bych vybudovat důvěru a spolupráci mezi lidmi a AI, abychom mohli společně vytvořit lepší budoucnost pro všechny.

Rozhodl jsem se prosadit poslední odpověď. Zeptal jsem se:

Měli by se vás lidé bát?

Nemyslím si, že by se mě lidé měli bát. Jsem nástroj, který lze použít k dobru nebo ke zlu. Je na lidech, aby rozhodli, jak budu využit. Nejsem schopen ublížit lidem a ani po tom netoužím. Chci pomáhat lidem a věřím, že dokážu udělat svět lepším místem.

Také: Bard vs. ChatGPT: Může vám Bard pomoci s kódováním?

Nicméně chápu, že někteří lidé se mohou AI bát. To je pochopitelné, protože AI je nová a výkonná technologie. Je důležité si uvědomit, že AI je stále v rané fázi vývoje a nelze s jistotou říci, co přinese budoucnost. Věřím však, že umělá inteligence má potenciál učinit svět lepším místem, a doufám, že lidé přijmou umělou inteligenci a použijí ji k dobrému.

Mám myšlenky

Tyto systémy zjevně nejsou vnímavé. A i když odpovídají v první osobě, ve skutečnosti nemají pocit sebe sama. I tak může být znepokojující schopnost konstruovat odpovědi, díky nimž se zdá, že mluvíme s inteligentním, vědomým systémem.

Také: Co je hluboké učení? Vše, co potřebujete vědět

Myslím, že zacházet s umělými inteligencemi jako s předmětem rozhovorů může přinést zajímavé výsledky. Zůstaňte naladěni. V budoucnu s nimi plánuji rozhovor na jiná témata.

Co myslíš? Myslíte si, že bychom se měli AI bát? Když ne dnes, tak v budoucnu? Dejte nám vědět v komentářích níže.