Què Passarà Quan Els Ordinadors Siguin Molt Intel·ligents?

2023 Autora: Adelina Croftoon | [email protected]. Última modificació: 2023-11-27 08:59

"Rise of the Machines", "The Terminator Returns" … Una gran quantitat de ciència ficció es basa en el fet que els ordinadors es tornen tan intel·ligents que entenen que estaran millor sense una persona. Contes de fades? Sí, com es veu. El 2050, un ordinador domèstic típic podrà processar tanta informació com totes les persones de la terra juntes.

Però el 2050 està a condició que les màquines es desenvolupin gradualment. No funciona així. La nostra relació amb el món electrònic avança a passos de gegant. Una vegada: es va fixar un ratolí al cotxe. Una vegada - va aparèixer Internet. Una vegada: hi havia telèfons intel·ligents amb tauletes.

El següent avenç arribarà quan l’ordinador pugui entendre la gent. Els telèfons intel·ligents ja tenen aplicacions com Siri i Cortana que poden tenir una conversa senzilla amb nosaltres. Però el problema és que l’ordinador no entengui el que diem, sinó el que volem dir. L'exemple més senzill: la frase "Em va deixar", que va dir una dona tacada de llàgrimes i el cap d'un home té significats completament diferents.

Així doncs: tan bon punt les màquines aprenguin a reconèixer els matisos de la parla humana, d’una banda, les nostres mans es deslligaran en el sentit literal i figuratiu. Vaig parlar amb l'ordinador i ho va fer tot. D’altra banda, no ens apropem a una línia perillosa, eliminant l’última barrera en la comunicació entre les persones i el ferro sense ànima?

Fa temps que en volia parlar amb un científic famós, director de recerca lingüística d’ABBYY, Cap dels departaments de lingüística computacional de la Universitat Estatal Russa de Humanitats i de l'Institut de Física i Tecnologia de Moscou Vladimir Selegey … Però quan li vaig dir les meves pors apocalíptiques, ell va arrufar les celles.

“Sí, la ciència ficció està plena de prediccions fosques sobre com en faran les màquines amb formació humana. Però no entenc per què un augment de la quantitat de coneixements incrustats en els programes provocarà que un ordinador prengui decisions sense demanar permís a una persona?

De fet, el problema no és que l’ordinador aprengui a prescindir de la gent, sinó que la gent voldrà prescindir d’ella mateixa a l’hora de resoldre determinats problemes. Aquí està Txernòbil …

I què hi té a veure Txernòbil?

- Un reactor nuclear és un model físic molt complex. Sembla que es coneixen tots els paràmetres de control del reactor, tot compleix estrictes lleis físiques i la presa de decisions es pot confiar completament a l’ordinador. Però …

El 1986, una setmana després de l'accident, vaig assistir a un seminari sobre l'ús de la intel·ligència artificial a la indústria. Fins i tot llavors era evident que, confiant la presa de decisions a un ordinador, tenim un greu risc. És habitual que els programes continguin errors. Fins i tot els satèl·lits tenen problemes de programari.

És a dir, una persona és més fiable que un ordinador, tot i que "pensa" molt més ràpid?

- Una persona, a més de tota la resta, té motivació. Resol els seus problemes: educació, procreació, carrera, sap sentir …

Però pot un astut programador escriure un programa que ensenyi una màquina d’agressió …

- Podeu intentar fer, per exemple, un robot militar que prendrà decisions per si mateix, analitzant el que veu i escolta. I serà molt perillós. Però no perquè el robot tingui el desig de destruir de sobte, tal com han escrit els escriptors de ciència ficció. Però a causa de l'error d'un programador, la negligència d'alguns factors pot conduir a un comportament imprevisible del robot.

Però fins ara estem molt lluny de la capacitat de crear programes d’autoaprenentatge capaços de generar coneixement completament nou. En termes generals, passeu independentment de la taula de multiplicar a la capacitat de resoldre equacions complexes.

A la segona meitat del segle XX, les prediccions futuristes en el camp de la ciència van ser molt populars. Tot sobre la intel·ligència de l'ordinador va entrar a la llet. Ningú no va predir Internet, increïble llibertat d’accés a la informació, telèfons mòbils. Però tothom parlava d’ordinadors pensants.

Per exemple, a finals dels anys 60, el nostre primer sistema d'escacs KAISA va funcionar amb èxit al Campionat Mundial entre ordinadors. Es creia que per tal que una màquina pogués vèncer a una persona, era necessari simular els algorismes d’un joc humà. Per posar la ment, l’intel·lecte, la misteriosa intuïció que fa que el jugador d’escacs prengui les decisions correctes.

Avui l’ordinador guanya a una persona. Però mai no se li va ensenyar la intuïció. Mil milions de partides jugades, tota l'experiència del joc, totes les decisions que els jugadors d'escacs han pres mai s'han carregat a la seva memòria. I els van ensenyar a utilitzar-ho a l’hora de triar el pla de joc òptim, proporcionant-los una velocitat enorme d’enumeració i avaluació d’opcions. L’ordinador supera els campions del món, però no en gaudeix. Tot és completament diferent de la gent.

Però sou dels que només ensenyen a l’ordinador a “encendre el cap”

"Només intentem ensenyar als programes a" entendre "els textos perquè en puguin extreure informació, acumular-la i generalitzar-la. De manera que la gent rebi coneixements filtrats, seleccionats entre milers de milions de fonts. Això és molt difícil, perquè una persona no sap molt bé com s’organitza la seva capacitat lingüística, en la qual es basa la seva comprensió de les altres persones.

La traducció automàtica estadística és ara popular. L’ordinador no entén gens de què tracta el text traduït, només sap trobar les variants més probables de traduir petits fragments (en poques paraules), analitzant els enormes volums de traduccions humanes emmagatzemades a la seva memòria. En general, el text és comprensible. Però seria frívol prendre una decisió responsable sobre la base d’aquesta traducció.

D'acord, l'ordinador em pot traduir les instruccions?

- Instruccions? Això és perillós.

Sí a una nevera senzilla!.

- Fins i tot a la nevera! M’agradaria que els nostres programes traduïssin, intentessin entendre el text, escollissin entre opcions basades en el coneixement, i no només perquè aquesta correspondència es troba més sovint a la nostra base de dades.

D’acord, suposem que vau resoldre el problema i que vau crear un sistema gràcies al qual els ordinadors aprendran a entendre els matisos del nostre discurs i, fins i tot, a traduir-lo amb precisió a un altre idioma. I llavors un nou perill amenaça la gent: no caldrà pensar. No caldrà entrenar memòria, cervell. Necessiteu informació, si us plau, Viquipèdia. Cal parlar amb un estranger: traductor …

- Com més alt sigui el nivell d’intel·ligència i coneixement d’una persona, més útil serà per a ell el següent “assistent intel·ligent”. I com més baix, més oportunitats semblen no pensar en absolut. Les tecnologies informàtiques condueixen a la polarització de la societat. En termes generals, l'aparició de la calculadora no va conduir a la degeneració dels matemàtics. Però en alguns dels escolars, òbviament, hi va haver una disminució del ja baix nivell de capacitats.

Sabeu, per a mi, un indicador greu d’una caiguda en el nivell d’estudis és el nombre de persones que escriuen analfabetament o són incapaços d’expressar els seus pensaments i sentiments sense utilitzar el company

- Sí, la gent va començar a escriure amb menys competència. Simplement perquè, en general, hi ha menys lectura de textos editables i molts més recursos d’aquest tipus, en què l’ortografia és molt borrosa. Això va fer la gent més estúpida? Probablement no.

Veu una connexió entre el fet que una persona expressi analfabetament els seus pensaments en la seva llengua materna i el fet que s’hagi tornat més estúpid?

“No aniria tan lluny. Tot i que és obvi: com que els nens van començar a llegir menys, van sorgir alguns problemes amb la transferència de coneixement i cultura entre generacions. Això és un problema. Avui veiem que un escolar modern amb el mateix nivell de notes que fa 30 anys coneix pitjor la literatura.

Aquí! …

“… Però, d'altra banda, coneix moltes altres coses molt millor, que ningú pensava que poguessin conèixer.

És un procés natural?

- Sí. A més, per primera vegada en la història de la humanitat, el coneixement no es pot transferir dels ancians als més joves, com ha passat durant segles. Es va produir una transferència de coneixement des dels més joves cap als grans, que abans no era gens característica de la cultura humana. Un nen ensenya al pare o a la mare a treballar en un ordinador, amb un telèfon mòbil, és una font de coneixement divers per als seus pares. I encara més nens viatgen per tot el món. Molt sovint són una font de coneixement geogràfic i cultural.

Escolta, però aquí tot va començar amb els ordinadors. Alliberaren la gent fins i tot de la necessitat de memoritzar les regles elementals de la gramàtica

- Just a principis dels 90, vaig treballar en un equip que va desenvolupar un dels primers sistemes de verificació ortogràfica per a la llengua russa. Va ser útil o perjudicial fer-ho? Molt útil des del meu punt de vista. Aquest sistema permetia la creació més ràpida de documents. I llavors tot depèn del nivell de responsabilitat de la persona. Qui va dir que després del cotxe no cal fer cap comprovació? El sistema només ajuda a fer-lo molt més eficient.

Però confiem en l’ordinador

- Només vol dir que la persona que ha creat el programa no us ha informat que hi ha molts fenòmens que la màquina no pot comprovar. La negociació, per exemple.

Per desgràcia, les noves tecnologies condueixen a la pèrdua d’habilitats tradicionals. He estat fent reparacions al pis. Volia instal·lar finestres de fusta, que s’instal·laven abans. Però això va resultar impossible. Tots estan instal·lant finestres de doble vidre. La gent, per desgràcia, deixa de fer moltes coses amb les mans. Què pots fer, així funciona la vida. Malauradament.

Llavors, ets conformista?

- No. Crec que no és bo fer coses absolutament nocives. Però quan teniu guanys i pèrdues, heu d’avaluar els riscos … Si feu drogues, no creieu que sobreviuran no només les persones bones, sinó també les persones dolentes.

En el nostre cas, juntament amb el desenvolupament de tecnologies, és necessari participar en la formació de qui les utilitza. Les conseqüències negatives de les noves tecnologies es reflecteixen principalment en aquells que no fan la seva feina molt bé a cap nivell tecnològic.

Prengui medicaments, per exemple. Volem ajudar el metge a prendre una decisió, prenem un sistema expert en informàtica basat en l’anàlisi d’un gran nombre de diagnòstics fiables realitzats pels millors metges. Dóna a un professional l'oportunitat de recórrer a un volum de coneixement més gran del que ell mateix té. Però la decisió final és seva, no de l’ordinador. Per a un metge dolent, tot és diferent: confiarà en allò que no pugui comprovar de manera fiable. Però, de mitjana, amb l’aparició d’aquestes tecnologies, em sembla que la medicina millora, no empitjora.

Bé, estàvem convençuts que hi haurà més avantatges que danys pel sistema intel·lectual d’entendre una persona mitjançant un ordinador. Però quan apareixerà?

- Aquesta és una tasca molt difícil que no es pot resoldre de seguida. Cal ensenyar els coneixements informàtics sobre el llenguatge i els coneixements sobre el món, els mètodes d'inferència i la comparació de valors. Alguna cosa que sabem fer ara, alguna cosa trigarà anys. Per exemple, necessitem dades fiables sobre l’ús de la llengua, tenint en compte les diferències individuals i socials. I aquestes diferències són molt significatives. Per exemple, vam fer un projecte especial dedicat a les diferències regionals en llengua russa. Es va recollir un diccionari en el qual gairebé deu mil paraules, que són la norma per als residents de determinades regions del nostre país

Qui sóm?

- Es tracta d’un projecte conjunt anomenat Llengües de les ciutats russes, en el qual participen especialistes d’ABBYY, científics lingüístics, entusiastes de diferents parts de Rússia i de parla russa a l’estranger. Hem analitzat el llenguatge dels mitjans de comunicació regionals, les xarxes socials, els decrets i els decrets de les autoritats locals. I això és només una petita part del coneixement que cal ensenyar a un ordinador.

Quina és la diferència fonamental entre el vostre enfocament de la traducció i els sistemes que utilitza Google, per exemple?

- Els sistemes estadístics no construeixen estructures lingüístiques. Cerquen coincidències de traducció per a petits fragments de 5-7 paraules. Però el llenguatge està tan estructurat que molt sovint les paraules relacionades es localitzen molt més enllà i, si no es té en compte aquesta connexió, apareixen errors. Però sovint aquests detalls són importants en la traducció, la negligència de la qual pot canviar completament el significat. Per tenir-ho tot en compte, cal identificar durant l’anàlisi tot el sistema de connexions lingüístiques entre paraules, el que s’anomena l’estructura d’una frase. No traduïm fragments de frases del llenguatge al llenguatge, intentem identificar l’estructura semàntica de la frase i sintetitzar aquesta estructura mitjançant un altre idioma.

Però aquestes estructures semàntiques s’utilitzen no només i no tant a efectes de traducció automàtica. També són necessaris per a la solució eficaç de les tasques de cerca intel·ligent i anàlisi de la informació, que avui són més importants per a ABBYY com a empresa comercial. Per exemple, les primeres solucions publicades recentment per al mercat corporatiu es basen en aquestes tecnologies: només permeten cercar i analitzar dades en un enorme flux d'informació que s'emmagatzema a les organitzacions.

I quin idioma, des del vostre punt de vista, és més difícil d’entendre?

- Generalment s’accepta que, com més difícils són aquelles llengües en què cal aprendre més regles. Però en el cas de la comprensió informàtica, no és així.

Una cosa que és difícil per a una persona, per exemple, un sistema d’inflexió ric en rus o lituà, simplifica la tasca d’un ordinador en determinades etapes d’anàlisi.

Per exemple, la llengua xinesa és molt difícil perquè no hi ha morfologia i, per tant, la gran quantitat d'ambigüitat amb què s'enfronta un ordinador. Per tant, per a l’anàlisi informàtica de la llengua xinesa, és molt important utilitzar coneixements sobre el món, més important que, per exemple, a l’hora d’analitzar idiomes amb morfologia desenvolupada.

Vam aconseguir treballar amb rus, alemany, anglès, francès, espanyol, xinès. L’anàlisi del llenguatge es divideix en etapes. Algunes etapes tenen característiques específiques, dificultats per a un idioma, algunes per a un altre. Però, en essència, les tecnologies amb què treballem són aplicables a tots els idiomes.

Segons la vostra opinió, quan arribarà el dia en què podrem, paral·lelament a la nostra conversa, rebre a l’ordinador la seva traducció ràpida i entenedora. Suposem que estem parlant ara i que obtindrem immediatament una transcripció de la nostra conversa en castellà?

- Serà possible ben aviat. No ho crec en dos anys. Però … Què cal per resoldre aquest problema? Hem de millorar els nostres sistemes d’anàlisi de la parla. Encara no podem mantenir una conversa espontània, separar-la del soroll i obtenir el text desitjat. I hi ha progressos en aquesta direcció cada any.

Però, igualment, hi haurà coses que la màquina no podrà interpretar sense ambigüitats. I aquí la precisió de la comprensió i la traducció dependrà de la disponibilitat del sistema de coneixement sobre el món, dels mecanismes d’inferència lògica.

Però, en qualsevol cas, es mantindrà el perill d’una confiança completa en aquest programa. És un error pensar que, per exemple, d’aquí a cinc anys, pugueu dictar una carta a un ordinador, la traduirà, l’enviarà al vostre soci comercial i tot anirà bé. Ningú garanteix que la màquina no perdi el "no" en algun lloc ni cometrà altres errors, després dels quals la seva relació comercial es pot considerar acabada.

És a dir, una persona com a controlador encara ho hauria de ser?

- Sens dubte. Confiar a cegues en la tecnologia és perillós.