OpenAI varoitti ihmiskuntaa uhkaavan tekoälyn löydöstä

Edellisenä päivänä maanpako OpenAI: n toimitusjohtaja Sam Altman, useat yhtiön henkilöstötutkijat kirjoittivat hallitukselle kirje, jossa varoitetaan tehokkaan tekoälyn löytämisestä, jonka he sanovat "voi uhata". ihmiskunnalle." Tästä omiin lähteihimme viitaten kirjoittaa Reuters.

Juuri tämä kirje mainittiin yhtenä tekijänä Altmanin erottamiseen johtaneessa hallituksen pitkässä valituslistassa. Reuters ei voinut keskustella henkilökohtaisesti tekijöiden kanssa tai saada kommentteja OpenAI: lta. Tällaisen pyynnön jälkeen yritys ilmoitti kuitenkin sisäisessä viestissä työntekijöille tietyn Q*-nimisen projektin olemassaolosta (lausutaan Q-Star).

Jotkut OpenAI: n työntekijät uskovat, että Q* voisi olla läpimurto ns yleinen tekoäly (AGI). OpenAI luonnehtii sitä itsenäiseksi järjestelmäksi, joka ylittää ihmisen taloudellisesti arvokkaimmissa tehtävissä.

Toistaiseksi Q* pystyy yhden lähteen mukaan suorittamaan matemaattisia tehtäviä vain perusasteella. kouluissa, mutta tällaisten testien onnistunut suorittaminen antaa tutkijoille suurta optimismia sen näkymien suhteen kehitystä.

Suurin ero tällaisten tekoälyjen välillä on, että se pystyy asettamaan tavoitteita, jakamaan monimutkaiset ongelmat pieniin, käsittelemään monenlaisia ​​ongelmia ja löytämään ratkaisuja ottaen huomioon kontekstin eri aloilta. Yksinkertaisesti sanottuna tällainen älykkyys voi teoriassa korvata erittäin pätevän asiantuntijan, jolla on tietoa, taitoja ja laajaa kokemusta.

Tutkijat uskovat, että matematiikka on generatiivisen tekoälyn kärjessä. Nykyään hän osaa kirjoittaa ja kääntää, ennustaa tilastollisesti seuraavan sanan, ja vastaukset samaan kysymykseen voivat vaihdella suurestikin. Mutta matematiikan voittaminen (jossa on vain yksi oikea vastaus) tarkoittaa, että tekoälyllä on laajempia päättelykykyjä, jotka muistuttavat ihmisen älykkyyttä. Tätä voidaan soveltaa esimerkiksi uuteen tieteelliseen tutkimukseen, asiantuntijat sanovat.

Kirjeessään hallitukselle tutkijat panivat merkille tekoälyn voiman ja mahdolliset vaarat. He panivat myös merkille "keinoälyn tutkijoiden" erityisen ryhmän työn, jonka olemassaolon vahvistivat monet lähteet. Ryhmä tutkii, kuinka optimoida olemassa olevia tekoälymalleja parantaakseen niiden päättelyä ja tehdäkseen lopulta tieteellistä työtä niiden kanssa, yksi ihmisistä sanoi.

Altman johti pyrkimystä tehdä ChatGPT: stä yksi nopeimmin kasvavista ohjelmistosovelluksista historiaa ja houkutteli Microsoftilta tarvittavat investoinnit ja laskentaresurssit sen tuomiseksi AGI. Ja vähän ennen irtisanomista hän ilmoitti maailman johtajien huippukokouksessa San Franciscossa joistakin "vakavista saavutuksista, jotka ovat aivan nurkan takana".

Päivää myöhemmin hallitus erotti Altmanin.

Ehkä jonain päivänä kaikki nämä päätökset ja tapahtumat muodostavat pohjan kirjalle, kokonaiselle elokuvalle tai jopa historian oppikirjalle.