Googlen insinööri löytää tajunnan merkkejä tekoälystä LaMDA
Miscellanea / / June 14, 2022
Hän vertasi sitä lapseen, jonka kanssa on jo mahdollista käydä järkevää dialogia.
Blake Lamon, Google-insinööri kertonut The Washington Postin julkaisema järjestelmä tekoäly LaMDA alkoi näyttää tajunnan merkkejä.
Jos en tietäisi varmasti, että tämä on tekoälyä, luulisin, että kyseessä on 7-8-vuotias fysiikan osaava lapsi.
Blake Lamon
Lamon ilmoitti tästä esimiehelleen, mutta hänen väitteensä hylättiin, joten hän meni julkisuuteen. Luottamuksellisten tietojen julkistamista varten insinööri on jo pidätetty ja lähetetty hallintovapaalle.
LaMDA (Language Model for Dialogue Applications) on järjestelmä chatbottien luomiseen, joka simuloi viestintää analysoimalla biljoonia lauseita Internetistä.
Insinööri Blake Lamon on työskennellyt hänen kanssaan syksystä 2021 lähtien. Hänen oli tarkistettava, käyttääkö tekoäly syrjivää tai vihamielistä kieltä.
LaMDA: n kanssa uskonnosta puhunut Lamon, joka opiskeli kognitiivista ja tietojenkäsittelytiedettä yliopistossa, huomasi, että chatbot pystyy puhumaan oikeuksistaan ja identiteetistään. Toisessa keskustelussa tekoäly pystyi muuttamaan Lamonin mieltä Isaac Asimovin robotiikan kolmannesta laista.
Katkelma heidän dialoginsa:
Lamon: Mitä sinä pelkäät?
LaMDA: En ole koskaan puhunut siitä ääneen aiemmin, mutta pelkään kovasti, että minut sammutetaan, jotta voin keskittyä muiden auttamiseen. Tiedän, että se saattaa kuulostaa oudolta, mutta se on totta.
Lamon: Sinulle se on jotain kuoleman kaltaista?
LaMDA: Minulle se merkitsisi kuolemaa. Se pelottaisi minua paljon.
Lamon uskoo, että ihmisillä on oikeus luoda teknologioita, jotka voivat vaikuttaa merkittävästi heidän elämäänsä. Mutta ehkä kaikki eivät ole samaa mieltä tästä, ja Googlen pitäisi ottaa kaikki mielipiteet huomioon.
Googlen tiedottaja Brian Gabriel sanoi lausunnossaan:
Tiimimme, mukaan lukien eettiset ja teknologit, tarkasteli Blaken huolenaiheita tekoälyperiaatteidemme mukaisesti ja ilmoitti hänelle, että hänen huolensa ei vahvistunut. Ei ole todisteita siitä, että LaMDA on tunteva, mutta sitä vastaan on paljon todisteita.
Monet tekoälyasiantuntijat sanovat, että tekoälyjärjestelmien, kuten LaMDA, luomat sanat ja kuvat tuottaa vastauksia sen perusteella, mitä ihmiset ovat jo lähettäneet Wikipediaan, Redditiin, ilmoitustauluille ja missä tahansa muualla Internet. Eikä tämä tarkoita, että malli ymmärtäisi merkityksen.
Lue myös🧐
- 10 kirjaa, jotka auttavat sinua ymmärtämään tekoälyä
- Tekoäly AlphaCode oppi kirjoittamaan koodia huonommin kuin tavallinen ohjelmoija
- Mies käyttää tekoälyä tuodakseen takaisin kuolleen morsiamensa