Andrei Marga despre avertismentul lui Norbert Wiener

Inteligența artificială a apărut pe o altă linie a abordării raționării decât cea moștenită din cultura clasică. Să amintim câteva momente de cotitură care au adus cele două linii în  stadiul de azi.

Humboldt a socotit limba folosită în comunicare ca fiind un fel de a priori al cunoașterii şi al vieții. Pe urmele lui, s-a ajuns la lărgirea sferei propozițiilor preluând în formalismul logicii nu numai enunțurile, ci și interogațiile, evaluările și propozițiile normative. Odată cu John Austin, s-au tematizat „actele de vorbire” ca unități elementare ale comunicării curente. Ludwig Wittgenstein a conceptualizat „jocurile de limbaj” ca macro organizări ale comunicării. „Pragmatica universală” a lui Habermas a explicat funcționarea comunicării, ca prealabil al oricărei prestații umane. Linia continuă azi cu „pragmatica inferențială” a lui Robert Brandom, care redă faptele istoriei ca dare/acceptare de „temeiuri”

Pe cealaltă linie, George Boole a aplicat algebra în analiza propozițiilor logice, după ce a sesizat baza numerică a minții și a delimitat cursul „valorii de adevăr”. Charles S. Peirce a propus considerarea legăturii („este”, „sau”, „implică” etc.) din propoziție ca termen și a deschis noi șanse formalizării. Cu un alt pas înainte, Gottlob Frege a arătat că „o idee, un gând (Gedanke)” este ceea ce poate fi adevărat sau fals, are valabilitate trans-subiectivă și a deschis astfel o nouă optică asupra culturii. Bertrand Russell şi Alfred N. Whitehead au aplicat teoria matematică a funcțiilor în logică, au introdus „funcția propozițională” și au reconstruit logica în forma cuprinzătoare a „logicii simbolice”. Între timp, matematica însăși a înregistrat pași noi și a fost  pusă pe direcția schimbărilor ample.

Odată cu cercetările comunicației în organisme și mașini și explorarea „conducerii” cu conexiune inversă (feedback), de către Norbert Wiener, cunoașterii  i s-a deschis o nouă cale. „Conținutul de adevăr” al diferitelor procese ale realității a fost numit „informație”. Claude Shanon a identificat unitatea elementară a informației, bitul – cea mai simplă unitate la care se poate răspunde cu da/nu. „Conținutul de adevăr” al propozițiilor a fost prelucrat de informatică, iar dezvoltarea calculului probabilităților, evoluția maşinilor de calcul și noi inginerii au imprimat un ritm ridicat evoluției acesteia.

Prin folosirea de impulsuri electrice pentru a codifica informația s-a putut trece la construcția de hardware spre a prelucra software. Conținuturile de gândire sunt preluate în formă matematizată și aduse în forma unor „programe”, ce aplică tehnologii construite după legile cunoscute.

Pe acest fundal, s-a format o nouă înțelegere a raționării. Aceasta a fost desprinsă cu rezultate impresionante din cadrul clasic și abordată ca „prelucrare de informații”. Evident, la bază stă o operaționalizare, adică o preluare a unei entități prin indicii (un exemplu de maximă simplitate: „Acidul este ceea ce înroșește hârtia de turnesol”). Asumpția este că „informația” obținută prin operaționalizare redă realitatea, încât nu ar fi o diferență semnificativă  între aceasta și „informația” despre ea.

Dezvoltarea continuă a matematicii, informaticii și industriei calculatoarelor a încurajat puncte de vedere conform cărora, în multe privințe – volum, rapiditate, stocare etc., calculatoarele întrec capacitățile naturale ale oamenilor și sunt de preferat. Curentul „trans-umanismului tehnologic”, care a urcat pe scenă prin personalități inovative, precum Marvin Minsky (The Society of Mind, 1985), a deschis interogații cu privire la preluarea de către computere a funcțiilor cognitive și emoționale ale omului. Un alt exponent, Raymond Kurzweil (The Age of Intelligent Machines, 1990), a prezis subordonarea omului de către produsele „inteligenței artificiale”. Cei doi au anticipat că mașinile electronice vor ajunge să ia decizii de viață în locul oamenilor.

Azi se înmulțesc avertismentele cu privire la posibilitatea ca succesele enorme ale inteligenței artificiale să devină pericole.  În față, printre avertizori, este Elon Musk – nu numai ca proprietar al Twitter-ului, ci și ca inițiator al programului Neuralink.

Cunoscutul miliardar țintește salutar la a aplica inteligența artificială în abordarea de maladii – de pildă, prin implantarea de piese (cells) care folosesc semnale electrice și chimice pentru a transmite informații la creier și în corp. Se încearcă astfel aplicarea conexiunii wireless computer-creier pentru a modifica funcții și stări ale corpului unui pacient. Se speră să fie creat în curând un robot care va înlocui implanturile spre a transmite semnale în creier.

Dar Elon Musk nu ezită să prevină. „Odată cu inteligența artificială conjurăm demonii”,  încât apare un pericol comparabil cu cel al armelor nucleare, spunea el de la început (citez după „Washington Post”, 24 oct. 2014). Altfel spus, și pe calea inteligenței artificiale umanitatea se poate distruge pe sine. Azi tot mai mulți împărtășesc această opinie.

Inteligența artificială este o reușită istorică certă. Nu mai este nevoie să subliniem enorma utilitate a computerelor în economie, transporturi, medicină, educație – practic în cele mai multe domenii ale vieții. De la o zi la alta, apar noi și uimitoare aplicații. În optimismul robust al computeriștilor, Raymond Kurzweil considera că vor apărea curând automate conștiente de operațiile lor.

Desigur, imediat după „mașinile Turing”, inteligența artificială a trecut deja pragul computerelor care își pot descrie structura și funcționarea. Acum pare să-l treacă și pe cel al „conștiinței” în înțeles mai larg, chiar dacă nu se pune încă problema înzestrării computerelor cu „conștiință de sine”. Computerele rămân, totuși, în sfera obiectelor lipsite de viață proprie.

Se consemnează, însă, tot mai multe aplicări ale inteligenței artificiale care afectează libertatea și restul valorilor umane. Una, foarte cunoscută, constă în înmagazinarea datelor personale, încât să se poată folosi de către cei care le stochează, fie și împotriva persoanelor respective sau măcar pentru a le manipula și controla. Cugetători de la Harvard și München se și opun azi exaltării „tehnologiste” de pe Sillicon Valley! Unii autori vorbesc de transformarea omului într-un „omline” din momentul în care ființa umană se dotează cu „proteze spirituale” pe baze electronice, care preiau povara deciziilor sale de zi cu zi. Robotistul Anthony Lewandowski, unul dintre pionierii automobilului capabil de auto-dirijare, propune crearea „bisericii” celor care cred în Dumnezeul automatelor, căci acestea întrec cu mult inteligența naturală a omului. Unii visează la stocarea datelor necesare despre persoane, pentru a asigura progresul unor comunități în termeni care se stabilesc prin deciziile unor computere. Evident că datele securității naționale sunt stocate cu mari riscuri în era inteligenței artificiale nu numai din cauza slăbiciunilor umane, ci și din cauza erorilor potențiale ale computerelor. Deja funcționează studiouri înzestrate cu aparatură și înmagazinări electronice în care cei dispăruți sunt repuși în mișcare, fac relatări și intră în comunicare cu cei vii. Nu mai vorbim de răspândirea de clone ale unor oameni, care fac declarații aiuritoare și vorbesc împotriva celor clonați.

Odată cu asemenea aplicații, se deteriorează cu totul condițiile de posibilitate ale unor valori ale vieții moderne. Pe bună dreptate, se și atrage atenția că „tehnica digitală face ca în viitor să nu mai fie vreun individ; în cele din urmă guvernează un nou spirit (Geist) care amestecă indistinct eu-l și tu-ul, omul și mașina, natura și cultura. De conceptul de voință liberă, în această formă de satisfacere generală, nu mai este nevoie; dimpotrivă, ar fi doar deranjant/…/ Acolo unde voința liberă nu mai este voită, unde autenticitatea, autonomia și reflecția sunt socotite depășite sau în cel mai bun caz drept  atavisme dispensabile, se închid spațiile care au fost deschise de la începutul modernității” (Hanno Rauterberg, Die Kunst der Zukunft. Über den Traum der kreativen Maschine, Suhrkamp, Frankfurt am Main, 2021, p.160). Numai acolo unde eu-l rămâne liber și suveran se mai păstrează „sfera publică” a societății moderne, democrația și modernitatea.

În 1947, Norbert Wiener a publicat cartea The Human Use of Human Beings. Cybernetics and Society. Cartea a fost retipărită nu demult ca Mensch und Maschine (Klostermann, Frankfut am Main, 2022). Recitind-o azi, observi cum s-a înaintat spre inteligența artificială, o înțelegi mai profund și îți dai seama că pericolul a fost întrevăzut de la început, chiar de către Norbert Wiener.

Cu această carte a început de fapt o nouă abordare a comunicării – după ce o aveam în cultura europeană pe cea originată la Gianbattista Vico. Abordarea nouă este însă matematică și efect al abordării noi a „tehnicii de informare (Nachrichtentechnik)”. La o relectură actuală, cel mai interesant este faptul că, în 1947, Norbert Wiener era deplin conștient că „există puternice posibilități ca oamenii să fie înlocuiți” (p. 25). Destui oameni cred că noile descoperiri și ingineria ce le însoțește aduc mașini mai bune și ameliorarea condițiilor vieții umane. Or, nu aceasta este întreaga realitate. În fapt, s-au creat pericole de exploatare a acestor posibilități împotriva oamenilor.

Norbert Wiener nu doar că semnalează pericolul – el trăind cu îngrijorare mai ales ce putea prefața nazificarea din acele decenii și deznodământul încă nedecis al „războiului rece”. El și explică ceea ce se poate numi, în sens bun, abstracția prin care s-a creat o nouă știință, cibernetica, capabilă să susțină noi tehnologii și aplicații, încât s-a ajuns la desprinderea inteligenței artificiale de inteligența naturală.

Noțiunile sale specifice sunt capacitatea noastră ca oameni care gândesc de a elabora „scheme (Schemata)” ale lucrurilor; posibilitatea de a ordona elemente așa cum ordonăm numerele în șirul numerelor naturale; unul dintre tipurile de scheme delimitabile pe harta realității este „informația”, aidoma unei compoziții muzicale sau mesajului telegrafic;   întrucât  se transmit „mesaje”, acestea au anumiți purtători; posibilitatea de creare a unei noi tehnologii de „informare la distanță”; preluarea teoremei lui Fourier, potrivit căreia orice mișcare între anumite granițe se poate aborda ca sumă a „vibrațiilor (Schwingungen)”; crearea astfel a posibilității ca un ton musical să fie preluat ca variație de curent electric și deschiderea șanselor „modulării” informatice; aplicarea unor principii din științe (de exemplu, principiul al II-lea al termodinamicii) pentru a descrie procesele; transmiterea de mesaje este de la om la om, dar poate fi și de la un aparat la om; se atinge un proces de „conexiune inversă” înăuntrul unui cerc închis, care schimbă starea sistemului; se ajunge la mașini care au „organe de simț” ce permit informații privind starea lor.

Norbert Wiener era foarte sensibil la o diferență. Anume, că omul poate fi abordat prin analogie cu mașinile, dar de aici nu trebuie dedus că el este doar o mașină. „La ambele, ființa vie și mașina, acest fapt servește la a acționa asupra lumii exterioare. În ambele, activitatea exercitată asupra lumii exterioare, nu doar intențională, este anunțată înapoi la aparatul de regularizare” (p.37). Creatorul ciberneticii scrie că  noua abordare, prilejuită de această știință, „este chiar simplu să se aplice societății. Numai că ar fi cazul ca oamenii să fie luați ca oameni. Eu susțin că drumul comod spre putere nu numai că distruge toate valorile etice ale oamenilor, dar nimicește până și neînsemnatele perspective pe care le avem azi pentru păstrarea pe termen mai lung a umanității” (p.38).

Nu stărui asupra largilor considerații ale lui Norbert Wiener asupra societății și evoluției ei, căci am făcut-o altădată (vezi volumul Raționalitate, comunicare, argumentare, 1991). Mă opresc doar asupra ideilor sale privind „a doua revoluție industrială”, plecând de la conceptul „omului ca ființă comunicativă”.

Prin acest concept, Norbert Wiener înțelege în esență faptul „învățării (Lernen)”: omul petrece 40% din viața sa învățând. „De asemenea, pentru societatea umană este cu totul natural să fie construită pe învățare, după cum o comunitate de furnici este întemeiată pe o schema moștenită. Învățarea este conform esenței ei o formă de conexiune inversă, în care schema de comportament este trecută prin experiența anterioară. Conexiunea inversă este, așa cum am detaliat în primul capitol al acestei cărți, o caracteristică foarte generală a formelor de comportament. În cea mai simplă formă, principiul conexiunii inverse înseamnă: comportamentul este examinat în raport cu rezultatul său și că succesul sau insuccesul acestui produs influențează atitudinea viitoare” (p. 73). „Conexiunea inversă” introduce un element de „comunicare” în comportamentul uman.

Ce se înțelege aici prin „comunicare”? Norbert Wiener spune că „ideea fundamentală a comunicării este mijlocirea de știri (Nachrichten)” (p. 109-110). Mijlocirea se poate face cu mișcarea corpurilor, dar și cu informație.

În orice caz, odată cu studiul „comunicării”, se pregătește „a doua revoluție industrială”. Ea a început cu „extinderea ideii comunicării în mașini” (p. 168). Conceptul de „conexiune inversă” a fost director. După ce, un timp, mașinile au atins viteză prin lanțuri sau mecanisme hidraulice, de la o vreme s-a apelat la folosirea electricității. Automatizarea a înaintat, însă, și înaintează folosind informația. Se trece astfel treptat într-o „epocă automatizată” – o nouă epocă în istorie, care „detronează omul și animalul ca izvoare de forță” (p.170).

Matematica și logica, dezvoltate și aplicate variat unor realități nou descoperite, au făcut posibilă preluarea unui rol mai mare de către automatele „pur logice”, care aduc cu sine „programul” drept cadru al vieții. Desigur, viața oamenilor depinde, mai departe, de decizii politice și economice, dar un subiect nou intră pe scenă: mașina. „Automatul” este noul „sclav” – de voința lui depinde în bună măsură restul.

Norbert Wiener spune că „noua revoluție industrială este o sabie cu două tăișuri” (p. 178). Viața oamenilor nu mai depinde doar de ceea ce decid ființele în carne și oase care suntem. „Am spus deja mai devreme că pentru om rămânerea pe Pământ nu va mai fi lungă dacă nu se ridică la înălțimea forțelor ce sunt în sinea lui. A nu fi om întreg înseamnă a fi mai puțin decât viu. Cei care nu sunt lăuntric vii, nu mai trăiesc ei înșiși în umbrita lor existență. Am spus că pentru oameni a fi viu înseamnă a lua parte la o schemă a comunicării la nivelul lumii. Ar trebui să fie libertatea de a examina noi opinii și de a stabili care dintre ele duc la ceva și care doar ne încurcă” (p. 202). Fără această libertate a fiecăruia nu va fi decât derapaj.

Antidotul imaginat de Norbert Wiener este „integritate comunicativă” și „curaj spiritual” pentru a face față noii situații. Doar că acestea au intrat, între timp, în crize, fiind ele însele de recuperat în condițiile de viață din zilele noastre. (Din volumul A. Marga, Sensul vieții, în curs de publicare)