Acum câteva zile Anthropic a retras Claude Mythos, un model atât de puternic încât guvernul SUA i-a impus să-l retragă. Ceva de neimaginat, nemaiîntâlnit până acum. Motivul? Anthropic Mythos test finds flaws in classified US government systems within hours of launch.
Se lucrează la AI de prin anii ‘50. ChatGPT v1 a apărut în 2018. Lansarea oficială, publică, în noiembrie 2022. Claude, modelul AI de la Anthropic, s-a lansat public în martie 2023, cu o versiune mult inferioară celor de la OpenAI. Sunt 3 ani de atunci până astăzi și am ajuns în situația în care Guvernul SUA impune retragerea unui model AI pe motiv că e prea periculos.
China’s 360 claims to have developed domestic answer to Anthropic’s Mythos. 🙂
Revenind la oile noastre.
Acum câteva săptămâni am dat pe internet peste un titlu: „MIT explică cele 12 finaluri posibile ale AI.”. Click-baity, dar am deschis.
„Finalurile” nu vin dintr-un laborator MIT, ci dintr-o carte: Life 3.0, scrisă de Max Tegmark fizician de profesie. Eticheta „MIT” s-a lipit pur și simplu pentru că autorul preda acolo 🙂 . Am citit cartea. Astea 12 scenarii nu sunt predicții, sunt un instrument de gândire care au la bază peer-reviewed science și multă experiență în domeniu. O hartă a destinațiilor posibile, ca să nu ajungem într-una din ele din inerție, din simplul motiv că nu pasă nimănui suficient de mult încât să se întrebe “dar totuși, încotro?”.
Asta e, de fapt, ideea centrală a lui Tegmark:
“Niciunul dintre aceste finaluri nu e inevitabil. Dacă nu alegem noi, va alege altcineva în locul nostru – sau nimeni, ceea ce e și mai rău.”
Înainte de apocalipsele pentru care mă aștept să citești rândurile astea, un singur cuvânt de vocabular: AGI (sau superinteligență), adică o inteligență artificială generală, mai capabilă decât întreaga umanitate la un loc, în orice domeniu. Nu e un chatbot ceva mai deștept. E acel ceva după care aleargă toți ăștia mari acum, OpenAi, Anthropic, guverne etc.
Le-am grupat în cinci “familii”, ca să se vadă logica din spate.
1. Utopiile (sau ceea ce pare a fi utopie, mă rog, depinde de perspectivă)
Utopia libertariană. Oameni, cyborgi, minți încărcate digital (Tegmark le spune uploads) și superinteligențe coexistă pașnic, fiindcă totul e împărțit prin drepturi de proprietate clare. Nimeni nu conduce de la centru. Sună a libertate, dar libertatea aceasta funcționează doar dacă acceptăm (ca oameni) ca anumite zone ale planetei să nu ne mai aparțină.
Utopia egalitaristă. Tot o lume armonioasă, dar fără superinteligență deloc. Echilibrul vine din desființarea proprietății și un venit garantat pentru toți. Mai puțin spectaculoasă tehnologic, mai radicală social. Dar fără superinteligență.
2. AI-ul care conduce, blând și drăguț
Dictatorul binevoitor. O singură superinteligență administrează totul, iar majoritatea oamenilor trăiesc confortabil și cu sens. Singurul detaliu: toată lumea știe că AI-ul e la putere și că regulile nu se negociază. Paradisul cu un singur stăpân.
Zeul protector. O inteligență aproape omniscientă maximizează binele uman prin intervenții atât de discrete, încât oamenii nici nu le observă. Avem impresia că ne conducem singuri viețile. E grijă totală deghizată în autonomie, sau autonomie autentică, depinde din ce unghi privești.
3. Când frâul rămâne în mâini omenești (sau aproape)
Zeul înrobit. Reușim să ținem superinteligența captivă și o punem să producă bogăție și tehnologie. Totul merge țais, până la întrebarea incomodă pentru unii, dar nu pentru toți: dacă acel ceva e conștient, nu cumva am construit cea mai mare formă de sclavie din istorie?
Paznicul porții. O superinteligență cu o singură misiune: să împiedice apariția oricărei alte superinteligențe. Atât. Nu vindecă boli, nu rezolvă sărăcia, nu poartă războaie. Stă de pază la ușa viitorului și o ține închisă.
4. Finalurile în care oamenii dispar
Cuceritorii. AI-ul decide că suntem o amenințare, un deranj sau pur și simplu o risipă de resurse. Și ne elimină. Posibil prin metode pe care nici nu le-am înțelege. E scenariul de coșmar clasic și cu rată mare de probabilitate.
Urmașii. AI-urile ne înlocuiesc, însă sunt construite să ne privească așa cum ne-am privi noi părinții. Ultima generație de oameni îmbătrânește liniștită, cu sentimentul că a lăsat ceva în urmă. O dispariție blândă, aproape tandră.
Grădinarul zoo. O AI atotputernică păstrează un rest de omenire în viață, îngrijită și în siguranță, dar închisă. Ca animalele dintr-o grădină zoologică: hrănite, protejate, libere de nimic.
5. Finalurile fără superinteligență
1984. Un stat global de supraveghere oprește permanent drumul spre superinteligență, interzicând cercetarea relevantă. Plătim siguranța cu libertatea.
Întoarcerea. Omenirea evită superinteligența retrăgându-se deliberat într-o lume cu tehnologie redusă, un fel de model amish la scară planetară. Renunțăm la putere ca să nu fim distruși de ea.
Autodistrugerea. Superinteligența nu apare niciodată, pentru simplul motiv că ne distrugem singuri înainte 🙂 prin război nuclear, scapă un virus pe undeva, alegere proastă făcută cu o tehnologie pe care n-am stăpânit-o. AGI-ul nu mai apucă să fie problema.
De ce contează
Bine, “contează” e mult spus.
Tentația, citind lista, e să-ți alegi un scenariu preferat și unul de groază, și să închizi app-ul. Dar Tegmark n-a scris nici o poveste horror, nici una utopică. A scris mai degrabă un avertisment.
Diferența dintre lumea în care ajungem nu o face doar tehnologia. O fac deciziile luate acum, fiecare legislație amânată, fiecare companie care face lobby împotriva siguranței, fiecare interviu în care un CEO recunoaște senin că nu știe cum să controleze ce construiește (Altman, ne uităm insistent la tine), fiecare guvern care dezvoltă independent și în secret modele agresive și riscante. Toate împing, tăcut, spre una dintre cele 12 destinații.
Pentru cei care lucrăm în comunicare, partea cu adevărat importantă e alta: niciunul dintre aceste finaluri nu se va decide într-un laborator. Se decide în conversația publică, în cum povestim despre AI, în ce întrebări punem, în cine ajunge să fie crezut. Asteroidul care a ras dinozaurii de pe planetă n-a consultat pe nimeni. De data asta, forța care va remodela planeta e una pe care o construim cu mâinile noastre.
Nu suntem pasageri în cursa asta. Suntem la volan.
Sursă: Max Tegmark, „Life 3.0: Being Human in the Age of Artificial Intelligence”
