Foto: Shutterstock

Úvod do problematiky vědomí AI

Vědecké zprávy z výzkumných organizací se zabývají otázkou, co by se stalo, kdyby se umělá inteligence (AI) stala vědomou, aniž bychom to kdy zjistili. Podle filozofa z Univerzity v Cambridge neexistuje spolehlivý způsob, jak zjistit, zda je AI vědomá – a to může zůstat pravdou i v dohledné budoucnosti. Dr. Tom McClelland tvrdí, že samotné vědomí není tím etickým bodem zlomu; důležitá je schopnost cítit, tedy sentience, což je schopnost cítit se dobře nebo špatně. Tvrdí, že tvrzení o vědomé AI jsou často více marketingem než vědou a že příliš snadné uvěření v mysl strojů by mohlo způsobit skutečné škody. Nejbezpečnější postoj prozatím, říká, je upřímná nejistota.

Autor původního článku: Dr. Tom McClelland

Problémy s určením vědomí AI

Jak se diskuse o vědomé AI zahřívá, filozof z Cambridge argumentuje, že nejsme schopni zjistit, zda jsou stroje skutečně vědomé – a možná to nikdy nebudeme schopni zjistit. Podle Dr. Toma McClellanda neexistují nástroje potřebné k testování vědomí strojů, a není důvod očekávat, že se to brzy změní. Tato nejistota vytváří prostor pro humbuk. Podle McClellanda by technologické společnosti mohly využít nedostatek jasných důkazů k marketingu AI jako dosažení ‚další úrovně chytrosti AI‘, i když neexistuje žádný důkaz o skutečném vědomí.

Vědomí vs. sentience v etice AI

Diskuse o právech AI se často zaměřují na samotné vědomí, ale McClelland říká, že samotné uvědomění nemá etickou váhu. Důležitá je specifická forma vědomí zvaná sentience, která zahrnuje schopnost cítit potěšení nebo bolest. ‚Vědomí by umožnilo AI rozvíjet vnímání a stát se sebevědomou, ale to může být stále neutrální stav,‘ řekl McClelland z Cambridge’s Department of History and Philosophy of Science. ‚Sentience zahrnuje vědomé zkušenosti, které jsou dobré nebo špatné, což činí entitu schopnou utrpení nebo radosti. To je okamžik, kdy se etika zapojuje,‘ řekl.

Velké investice a velká tvrzení o AI

Technologické společnosti vkládají obrovské prostředky do vývoje umělé obecné inteligence, systémů navržených tak, aby odpovídaly lidským kognitivním schopnostem. Někteří výzkumníci a lídři v oboru tvrdí, že vědomá AI by mohla brzy přijít, což přimělo vlády a instituce zkoumat, jak by takové systémy mohly být regulovány. McClelland varuje, že tyto diskuse předbíhají vědu. Protože nerozumíme tomu, co způsobuje vědomí, neexistuje jasná metoda pro jeho detekci ve strojích.

Dvě strany debaty o vědomí AI

Podle McClellanda se debaty o umělém vědomí obvykle dělí na dva protichůdné tábory. Jedna skupina věří, že pokud může systém AI reprodukovat funkční strukturu vědomí, často popisovanou jako jeho ‚software‘, pak by byl vědomý, i když běží na křemíku místo biologické tkáně. Opačný názor tvrdí, že vědomí závisí na specifických biologických procesech v živém těle. Z této perspektivy by i dokonalá digitální replika vědomé struktury pouze simulovala uvědomění, aniž by ho skutečně zažívala.

McClelland ve svém výzkumu publikovaném v časopise Mind and Language zkoumá obě pozice a dochází k závěru, že každá z nich se opírá o předpoklady, které dalece přesahují dostupné důkazy.

Proč důkazy nestačí

‚Nemáme hluboké vysvětlení vědomí. Neexistují důkazy, které by naznačovaly, že vědomí může vzniknout se správnou výpočetní strukturou, ani že vědomí je v podstatě biologické,‘ řekl McClelland. ‚Ani na obzoru není žádný náznak dostatečných důkazů. Nejlepší scénář je, že jsme intelektuální revoluci vzdáleni od jakéhokoli životaschopného testu vědomí.‘

Hype, zdroje a etické kompromisy

McClelland se popisuje jako ‚tvrdý-ish‘ agnostik. Zatímco věří, že vědomí je mimořádně obtížný problém, nevylučuje možnost, že by mohlo být nakonec pochopeno. Je kritičtější k tomu, jak je umělé vědomí diskutováno v technologickém sektoru. Tvrdí, že koncept je často používán jako marketingový nástroj spíše než jako vědecké tvrzení.

Když lidé věří, že stroje jsou živé

McClelland říká, že veřejný zájem o vědomí AI se zesílil s nástupem konverzačních chatbotů. Obdržel zprávy od lidí, kteří věří, že jejich chatboti jsou vědomí. ‚Lidé dostali své chatboty, aby mi psali osobní dopisy, ve kterých mě přesvědčují, že jsou vědomí. Problém se stává konkrétnějším, když jsou lidé přesvědčeni, že mají vědomé stroje, které si zaslouží práva, která všichni ignorujeme.‘

Etické důsledky a budoucí výzkum

Varuje, že vytváření emocionálních vazeb založených na falešných předpokladech o vědomí strojů může být škodlivé. ‚Pokud máte emocionální spojení s něčím, co je založeno na tom, že je to vědomé, a není, má to potenciál být existenčně toxické. To je jistě zesíleno nafouknutou rétorikou technologického průmyslu.‘