Voivatko chatbotit tulla yhtä tietoisia kuin ihmiset?
Miscellanea / / October 31, 2023
Kaksi vastakkaista teoriaa yrittää vastata tähän kysymykseen.
Christoph Koch
Amerikkalainen neurotieteilijä, Allen Institute for Brain Researchin johtaja.
Kysymykset siitä, mitä subjektiivinen kokemus on, kenellä se on ja miten se liittyy ympäröivään fyysiseen maailmaan, ovat kummitelleet filosofien mielissä suurimman osan ihmiskunnan historiasta. Kuitenkin tieteellisiä tietoisuusteorioita, jotka ovat mitattavissa ja empiirisesti testattavissa, on syntynyt vasta muutaman viime vuosikymmenen aikana.
Monet nykyaikaiset tietoisuusteoriat keskittyvät jälkiin, joita ovat jättäneet aivojen hienot soluverkostot, joista tietoisuus syntyy. Nykyään niistä hallitsee kaksi: integroitu informaatioteoria ja hermosolujen globaali työtilateoria.
25 vuotta sitten meillä oli riita australialaisen filosofin David Chalmersin kanssa. Lupasin hänelle hyvän viinin, jos nämä hermojäljet, joita teknisesti kutsutaan tajunnan hermokorrelaatiksi, löydettäisiin ja kuvattaisiin selvästi kesäkuuhun 2023 mennessä.
Integroidun tietoteorian ja hermosolujen globaalin työtilan teorian välinen ristiriita on kuitenkin edelleen ratkaisematta. Tämä johtuu osittain ristiriitaisista todisteista siitä, mitkä aivojen alueet ovat vastuussa visuaalisesta kokemuksesta ja subjektiivinen kasvojen tai esineiden havaitseminen, vaikka etuotsakuoren merkitys tietoiselle kokemukselle on ollut kiistänyt. Joten hävisin vedon ja lähetin viinin Chalmersille.
Molemmat hallitsevat teoriat luotiin selittämään tietoisuuden ja hermotoiminnan välistä yhteyttä ihmisillä ja sukulaiseläimillä, kuten apinoilla ja hiirillä. Ja molemmat teoriat tekevät pohjimmiltaan erilaisia oletuksia subjektiivisesta kokemuksesta ja tulevat vastakkaisiin johtopäätöksiin tietoisuudesta keinotekoisissa esineissä. Missä määrin nämä teoriat vahvistetaan tai kumotaan empiirisesti suhteessa tietoisuuteen, joka on juurtunut aivoilla on tärkeitä vaikutuksia, kun vastataan aikamme ratkaisemattomaan kysymykseen: voivatko koneet hyötyä tietoisuus?
Mitä ovat uuden sukupolven chatbotit?
Ennen kuin keskustelemme tästä, haluan viedä sinut kontekstiin ja verrata tietoista tekniikkaa tekniikkaan, joka osoittaa vain älykästä käyttäytymistä. Tietokoneinsinöörit pyrkivät varustamaan koneita erittäin joustavalla älykkyydellä, joka kerran sallittiin henkilö lähteä Afrikasta ja asuttaa koko planeetta. Tätä kutsutaan tekoälyksi (AGI).
Monet väittävät, että AGI on kaukainen mahdollisuus. Tekoälyn alalla viimeisen vuoden aikana tapahtunut hämmästyttävä edistys on yllättänyt koko maailman, myös asiantuntijat. Puhuvien keskustelupalstojen ohjelmistosovellusten, joita puhekielessä kutsutaan chatbotiksi, ilmaantuessa esoteerisesta aiheesta, scifi-fanien ja Piilaakson IT-alan eliittien keskusteluista AGI-keskustelut muuttuivat keskusteluksi mikä heijastaa laajalle levinnyttä julkista tyytymättömyyttä elämäntapaamme ja elämäämme kohdistuvasta eksistentiaalisesta riskistä kiltti.
Chatbotit perustuvat suuriin kielimalleihin. Tunnetuimmat näistä ovat sarja botteja, joita kutsutaan generatiivisiksi esikoulutetuiksi muuntajiksi tai GPT: iksi. Ne loi OpenAI San Franciscossa. Uusimman GPT-4-version joustavuuden, lukutaidon ja pätevyyden vuoksi on helppo uskoa, että siinä on älykkyyttä ja persoonallisuutta. Jopa hänen omituiset häiriöt, jotka tunnetaan nimellä "hallusinaatiot", sopivat tähän teoriaan.
GPT-4 ja sen kilpailijat, kuten LaMDA ja Googlen Bard, ovat koulutettuja digitoitujen kirjojen kirjastoista ja miljardeista julkisesti saatavilla olevista verkkosivuista. Kielimallin nerous on, että se oppii ilman valvontaa, prosessoi sana sanalta ja yrittää ennustaa puuttuvaa ilmaisua. Hän tekee tämän uudestaan ja uudestaan, miljardeja kertoja ilman ulkopuolista väliintuloa.
Kun malli saa tietoa nielemällä ihmiskunnan digitoidut tiedot, käyttäjä näyttää tuntemattoman lauseen – yhden tai useamman. Malli ennustaa todennäköisimmän ensimmäisen sanan, sitten seuraavan ja niin edelleen. Tämä yksinkertainen periaate on osoittanut uskomattomia tuloksia englannin, saksan, kiinan, hindin, korean ja muilla kielillä, mukaan lukien useat ohjelmointikielet.
Mitä eroa on älyn ja tietoisuuden välillä
On merkittävää, että tekoälyä käsittelevän uraauurtavan esseen "Computing and Intelligence" on kirjoittanut Alan Turing vuonna 1950 vältti kysymyksen "Voivatko koneet ajatella?", toisin sanoen kysymyksen siitä, onko niillä tietoisuus. Turing ehdotti "jäljitelmäpeliä": voiko tarkkailija objektiivisesti erottaa ihmisen tulostaman tulosteen koneen tulostamasta, jos molempien identiteetit ovat piilossa.
Nykyään tämä tunnetaan Turingin testinä, ja chatbotit ovat siinä erittäin hyviä, vaikka ne taitavasti kieltävätkin sen, jos kysyt heiltä suoraan. Turingin strategia alkoi vuosikymmeniä kestäneen vääjäämättömän edistyksen, joka johti GPT: n luomiseen, mutta jätti ongelman huomiotta.
Chatbot-keskusteluun sisältyy oletus, että tekoäly on sama kuin tekotietoisuus, että älykkyys on sama kuin tietoisuus. Ja vaikka ihmisissä ja muissa kehittyneissä organismeissa äly ja tietoisuus liittyvät toisiinsa, ne eivät välttämättä aina seuraa toisiaan.
Älykkyys on ajattelua ja oppimista toimimaan sekä itsensä ja muiden teoista, jotta tulevaisuutta voidaan ennustaa tarkemmin ja siihen paremmin valmistautua. Sillä ei ole väliä, tarkoittaako se seuraavia sekunteja ("Voi, tuo auto kiihtyy minua kohti") vai seuraavia vuosia ("Minun täytyy oppia koodaamaan"). Älykkyys on viime kädessä toimintaa.
Tietoisuus puolestaan liittyy olemisen tiloihin - sinisen taivaan näkemiseen, lintujen laulun kuulemiseen, kivun tuntemiseen, olemiseen rakastavaiset. Sillä ei ole pienintäkään väliä, aistiiko hallitsematon tekoäly jotain. Vain sillä on merkitystä, että hänellä on tarkoitus, joka ei liity ihmiskunnan pitkän aikavälin hyvinvointiin. Ja sillä ei ole väliä, tietääkö hän, mitä hän yrittää tehdä, mitä ihmiset kutsuvat itsetietoisuudeksi. Hän pyrkii "mielittömästi" tavoittelemaan päämääräänsä. Joten ainakin käsitteellisesti, vaikka rakentaisimmekin AGI: n, se ei kerro meille paljon siitä, tuntuuko se yhtään.
Kun tiedämme kaiken tämän, palataan alkuperäiseen kysymykseen, kuinka teknologia voi tulla tietoiseksi. Aloitetaan ensimmäisellä kahdesta teoriasta.
Mitä selitystä integroitu tietoteoria tarjoaa?
Hän aloittaa ilmaisemalla viisi aksiomaattista ominaisuutta kaikista kuviteltavissa olevista subjektiivisista kokemuksista. Ja sitten kysyy, mitä hermopiiri tarvitsee toteuttaakseen nämä viisi ominaisuutta, kytkemällä jotkin neuronit päälle ja sammuttaen toiset. Tai toisin sanoen, mitä tietokonesiru tarvitsee kytkeäkseen jotkin transistorit päälle ja sammuttaakseen toiset.
Syy-seuraus-vuorovaikutus piirin sisällä tietyssä tilassa tai se, että kaksi aktiivista neuroni voi kytkeä päälle tai pois toisen neuronin olosuhteista riippuen, voidaan ottaa käyttöön moniulotteiseksi kausaalirakenteeksi. Se on identtinen kokemuksen laadun kanssa – miten se koetaan, kuten miten aika ja tila koetaan tai miten värit havaitaan.
Kokemukseen liittyy myös määrä – sen integroitu tieto. Vain piiri, jossa on enintään nollasta poikkeavaa integroitua tietoa, on olemassa kokonaisuutena ja sillä on tietoisuus. Mitä enemmän tietoa on integroitu, sitä enemmän piiriä ei voida pienentää ja sitä vähemmän sitä voidaan pitää yksinkertaisesti itsenäisten alipiirien superpositiona.
Integroitu informaatioteoria korostaa ihmisen kokemuksen rikasta luonnetta. Katso vain ympärillesi ja upea näkyvä maailma lukemattomine eroineen ja yhteyksineen ilmestyy sinulle. Tai katso Pieter Bruegel vanhemman maalausta, 1500-luvun flaamilaistaiteilijaa, joka kuvasi uskonnollisia aiheita ja kohtauksia talonpojan elämästä.
Jokainen järjestelmä, jolla on samat sisäiset yhteydet ja kausaaliset voimat kuin ihmisaivoilla, on periaatteessa yhtä tietoinen kuin ihmismieli. Tällaista järjestelmää ei kuitenkaan voida mallintaa. Se on suunniteltava tai rakennettava aivojen kuvan mukaan. Nykyaikaiset digitaaliset tietokoneet perustuvat erittäin löysään kytkentään (yhden transistorin lähtö, joka on kytketty usean transistorin tuloon) vertailu keskushermostoon (kortikaalisen pylvään neuroni vastaanottaa syöttödataa ja tuottaa lähtötietoja kymmenille tuhansille muille neuronit).
Siten nykyaikaiset tietokoneet, mukaan lukien pilvitietokoneet, eivät ole tietoisia mistään, vaikka ajan myötä ne pystyvät tekemään kaiken, mitä ihmiset voivat tehdä. Tästä näkökulmasta ChatGPT ei koskaan tunnu erityiseltä. Huomaa, että tällä lausunnolla ei ole mitään tekemistä komponenttien kokonaismäärän kanssa, olivatpa ne hermosolut tai transistorit, vaan pikemminkin miten ne on kytketty. Se on keskinäinen kytkentä, joka määrittää piirin yleisen monimutkaisuuden ja sen mahdollisten konfiguraatioiden määrän.
Millaisen selityksen neuronaalinen globaali työtilateoria tarjoaa?
Se tulee psykologisesta ymmärryksestä älykkyyttä kuin teatteri, jossa näyttelijät esiintyvät pienellä valaistulla näyttämöllä, joka on tietoisuus. Näyttelijöiden toimintaa seuraa prosessoreista koostuva yleisö, joka istuu lavan takana pimeässä.
Lava on mielen keskeinen työtila, jolla on pieni muistikapasiteetti yksittäisen havainnon, ajatuksen tai muistin esittämiseen. Erilaiset käsittelymoduulit – näkö, kuulo, silmien ja raajojen motoriset taidot, suunnittelu, arvostelukyky, kielen ymmärtäminen ja puhuminen – kilpailevat pääsystä tähän keskeiseen työtilaan. Voittaja syrjäyttää vanhan sisällön, josta tulee tajuton.
Neuraalisen globaalin työtilan teorian mukaan metaforinen kohtaus ja prosessointimoduulit on kartoitettu neokorteksin arkkitehtuuriin. Työtila on aivojen etuosassa olevien aivokuoren neuronien verkosto, jossa on pitkän kantaman projektiot samanlaiset neuronit jakautuvat koko neokorteksissa prefrontaaliseen, parietotemporaaliseen ja cingulaattiseen yhdistyksen aivokuori.
Kun aktiivisuus aistikuoressa ylittää tietyn kynnyksen, aivokuoren alueilla laukeaa globaali tapahtuma ja sen seurauksena informaatio välittyy koko työtilaan. Tiedon globaali leviäminen tekee siitä tietoisen. Tieto, jota ei välitetä tällä tavalla, kuten silmien tarkka sijainti tai lukutaitoisten lauseiden muodostamisen syntaktiset säännöt, voi vaikuttaa käyttäytymiseen, mutta ei tietoisesti.
Neuraalisen globaalin työtilateorian näkökulmasta kokemus on hyvin rajallinen, samanlainen kuin ajatus ja abstrakti - muistuttaa niukkaa kuvausta, joka löytyy museosta Bruegel-maalauksen alta: "Scene in sisällä. Talonpojat renessanssin vaatteissa juovat ja syövät häissä."
Ymmärtäessään tietoisuutta integroidun informaatioteorian näkökulmasta taiteilija välittää nerokkaasti ympäröivän maailman fenomenologian kaksiulotteisella kankaalla. Neuraalisen globaalin työtilan teorian ymmärtämisessä tämä näennäinen rikkaus on illuusio, haamu. Ja kaikki, mitä siitä voidaan objektiivisesti sanoa, ilmoitetaan lyhyessä kuvauksessa.
Neuraalinen globaali työtilateoria ottaa täysin huomioon tietokoneaikamme myytit, joiden mukaan kaikki voidaan pelkistää laskelmiin. Sopivasti ohjelmoidut aivojen tietokonesimulaatiot, joissa on valtava palaute ja jotain keskustyötilaa, hahmottavat tietoisesti maailmaa. Ei ehkä nyt, mutta aika pian.
Mikä on sovittamaton ero teorioiden välillä?
Yleisesti ottaen keskustelu on seuraava. Neuraalisen globaalin työtilateorian ja muiden laskennallisen funktionaalismin teorioiden mukaan (he pidä tietoisuutta laskennan muotona), tietoisuus ei ole muuta kuin joukko älykkäitä algoritmeja, jotka toimivat koneella Turing. Toiminnot ovat tärkeitä tietoisuudelle aivoteikä sen kausaalisia ominaisuuksia. Jos jokin GPT: n edistynyt versio hyväksyy ja tuottaa samat syöttö- ja lähtömallit kuin ihmiset, kaikki luontaiset ominaisuudet siirtyvät teknologiaan. Mukaan lukien kallisarvoinen aartemme - subjektiivinen kokemus.
Sitä vastoin integroidussa informaatioteoriassa tietoisuuden sydän on sisäinen kausaalivoima, ei laskeminen. Se ei ole jotain eteeristä tai aineetonta. Se on spesifinen ja toiminnallisesti määrätty sen mukaan, missä määrin järjestelmän menneisyys määrittää sen nykyisyyden (syyn voima) ja kuinka paljon nykyisyys määrittää sen tulevaisuuden (vaikutuksen voima). Ja tässä on hankausta: itse syy-seuraussuhdetta, kykyä pakottaa järjestelmä suorittamaan tietty toiminto, eikä monia vaihtoehtoisia toimia, ei voida mallintaa. Ei nyt eikä tulevaisuudessa. Tämä pitäisi rakentaa järjestelmään.
Tarkastellaan tietokonekoodia, joka mallintaa Einsteinin yleisen suhteellisuusteorian kenttäyhtälöt, jotka suhteuttavat massan aika-avaruuden kaarevuuksiin. Ohjelmisto mallintaa supermassiivia tarkasti musta aukko, joka sijaitsee galaksimme keskellä. Tämä reikä vaikuttaa ympäristöönsä niin voimakkaasti, ettei mikään, ei edes valo, pääse pakoon sen vetovoimaa.
Mustaa aukkoa simuloiva astrofyysikko ei kuitenkaan imeydy kannettavaan tietokoneeseen simuloidun gravitaatiokentän vaikutuksesta. Tämä absurdilta vaikuttava havainto korostaa mallin ja todellisuuden eroa: jos malli on täysin Vastaa todellisuutta, tilaa ja aikaa tulisi vääristää kannettavan tietokoneen ympärillä, jolloin syntyy musta aukko, joka imee kaiken noin.
Painovoima ei tietenkään ole laskelma. Sillä on kausaalivoima, joka mahdollistaa sen, että se muuttaa aika-avaruuden kudosta ja vetää puoleensa kaikkea, jolla on massaa. Mustan aukon kausaalisten voimien simulointi vaatii todellista superraskasta esinettä, ei vain tietokonekoodia. Kausaalista voimaa ei voi mallintaa, se on luotava. Todellisuuden ja mallin ero on niiden kausaalisissa voimissa.
Siksi sademyrskyä simuloivassa tietokoneessa ei sada. Ohjelmisto on toiminnallisesti identtinen sään kanssa, mutta siitä puuttuu kausaalinen voima vapauttaa höyryä ja muuttaa se vesipisaroiksi. Syyvoima, kyky luoda tai hyväksyä muutos itse, on rakennettava järjestelmään. Se on mahdollista.
Niin kutsuttu neuromorfinen tai bioninen tietokone voisi olla yhtä tietoinen kuin ihminen. Mutta tämä ei päde normaaliin von Neumann -arkkitehtuuriin, joka on kaikkien nykyaikaisten tietokoneiden perusta. Pieniä prototyyppejä neuromorfisista tietokoneista on luotu laboratorioissa, kuten Intelin toisen sukupolven neuromorfinen Loihi 2 -siru. Mutta riittävän hienostunut kone tuottamaan jotain, joka muistuttaa ihmistietoisuutta tai ainakin hedelmäkärpäsen tajuntaa, on edelleen kunnianhimoinen unelma kaukaiselle tulevaisuudelle.
Huomaa, että tällä sovittamattomalla erolla funktionalististen ja kausaalisten teorioiden välillä ei ole mitään tekemistä luonnollisen tai tekoälyn kanssa. Kuten aiemmin sanoin, älykkyys on käyttäytymistä. Kaikki, mitä ihmisen kekseliäisyys voi tuottaa, mukaan lukien sellaiset suuret romaanit kuin Octavia Butlerin Vertaus kylväjästä ja Leo Tolstoin Sota ja rauha, voivat toistaa algoritmista älykkyyttä, jos heille annetaan tarpeeksi materiaalia koulutusta. AGI: n tulo on tavoite, joka on saavutettavissa ei liian kaukaisessa tulevaisuudessa.
Keskustelu ei koske tekoälyä, vaan keinotekoista tietoisuutta. Ja tätä keskustelua ei voida ratkaista luomalla suurempia kielimalleja tai kehittyneempiä hermoverkkoalgoritmeja. Vastataksemme tähän kysymykseen meidän on ymmärrettävä ainoa subjektiivisuus, josta olemme täysin varmoja: omamme. Kun meillä on selkeä selitys ihmisestä tietoisuus ja sen hermoperustat, voimme laajentaa ymmärrystämme älykkäisiin teknologioihin johdonmukaisella tieteeseen perustuvalla tavalla.
Tällä keskustelulla ei ole juurikaan vaikutusta siihen, miten chatbotit näkevät yhteiskunnan yleisesti. Heidän kielitaitonsa, tietopohjansa ja sosiaalinen viehätystään tulee pian moitteeton. Heillä on täydellinen muisti, pätevyys, tasapaino, päättely ja äly. Jotkut jopa väittävät, että nämä suuren teknologian luomukset ovat seuraava askel evoluutionissa, Nietzschen "supermies". Suhtaudun synkempään näkemykseen ja uskon, että sellaiset ihmiset pitävät lajimme rappeutumista aamunkoittoon.
Monille ja ehkä useimmille ihmisille yhä atomisoituneessa yhteiskunnassa, joka on irtaantunut luonnosta ja Sosiaalisten verkostojen ympärille organisoituneena on emotionaalisesti vaikeaa vastustaa teknologioita puhelimet. Ja erilaisissa tilanteissa, tavallisissa ja vakavammissa, ihmiset käyttäytyvät ikään kuin chatbotilla olisi tietoisuus, he voivat todella olla rakastunut, kärsiä, toivoa ja pelkoa, vaikka ne eivät olisikaan muuta kuin monimutkaisia hakutaulukoita. Heistä tulee meille välttämättömiä, ehkä jopa tärkeämpiä kuin todella älykkäät olennot. Vaikka chatbotit tunnistavat yhtä paljon kuin televisio tai leivänpaahdin - ei mitään.
Mitä muuta luettavaa aiheesta🤖
- 6 syytä, miksi sinun ei pitäisi sokeasti luottaa tekoälyyn
- Miksi meidän ei pitäisi pelätä, että uusi teknologia vie työpaikkamme
- Teknologinen singulaarisuus: onko totta, että tekniikka karkaa pian hallinnastamme?
- 8 myyttiä tekoälystä, joihin jopa ohjelmoijat uskovat