Sistemul de inteligenta artificiala dezvoltat de Facebook care a dezvoltat propriul limbaj a fost oprit

2
621
Inteligenta artificiala agenti AI
Nivel de apreciere

Facebook a decis sa inchida sistemul de Inteligenta Artificiala (AI – artificial intelligence) pe care l-a dezvoltat in laboratoarele proprii. Motivul consta in faptul ca acest sistem a inceput sa-si dezvolte propriul limbaj de comunicare, bazat pe cuvinte codate care sa faca comunicarea mult mai eficienta.

Cercetatorii Facebook au inchis sistemul din teama ca acestia ar putea pierde controlul asupra acestuia si sa actioneze independent. Cazul Facebook nu este unul singular, existand mai multe proiecte similare care s-au soldat cu rezultate similare (ex. algoritmul Google, in cadrul caruia robotii de inteligenta artificiala au dezvoltat un limbaj propriu pentru a putea realiza traduceri dintr-o limba in alta).

In toate instantele de rulare a algoritmilor de acest tip, un robot bazat pe inteligenta artificiala monitorizat de catre oameni a ajuns sa devieze de la modul de invatare pentru care a fost programat pentru folosirea limbii engleze catre folosirea propriului limbaj de comunicare.

Frazele sau textele codate daca le putem spune asa care au rezultat par sa fie niste texte fara sens pentru oameni dar care contin intelesuri semantice atunci cand sunt interpretate de catre agentii AI.

Se negociaza intr-un limbaj total nou!

Cercetatorii de la Facebook au constatat recent ca agentii AI au renuntat la limba Engleza. Sistemul avansat de inteligenta artificiala este capabil acum sa negocieze cu alti agenti AI cu ajutorul unui nou limbaj pentru a ajunge la un consens. La inceput codurile folosite in comunicare pareau a fi texte neinteligibile, insa ulterior s-a constatat ca acestea reprezentau chiar sarcina in sine care este transmisa catre agentul AI.

In exemplul ilustrat de catre companie, cei doi boti care negociau, numiti Bob si Alice, au folosit acelasi limbaj pentru a completa schimbul de informatii. Bob a inceput prin a spune “Eu pot eu eu orice altceva” (“I can i i everything else”), la care Alice a raspuns “mingile au zero pentru mine pentru mine pentru mine…” (“balls have zero to me to me to me…”. Restul conversatiei a fost format din variatii ale acestor propozitii.

Desi pareau initial fara sens, repetitia frazelor precum “i” si “pentru mine” reprezinta modul in care botii AI opereaza. Cercetatorii au constatat ca numarul de repetitii al acestor fraze se traduc in cate obiecte trebuie sa ia. Raspunsul bot-ului Bob urmator, precum ” i i can i i i everything else” (” eu eu pot eu eu eu orice altceva”) indica modul in care acesta foloseste limbajul pentru a oferi mai multe obiecte lui Alice. Daca interpretam in sensul acesta, frazele par sa fie mult mai logice comparativ cu frazele in Engleza precum “I’ll have three and you have everything else” – “Eu voi avea trei iar tu vei avea orice altceva (sau restul)”.

Limba engleza duce lipsa de “recompensa”

Aparent agentii AI au realizat faptul ca expresiile bogate din frazele in limba engleza nu erau necesare pentru scenariul ales. Sistemele moderne AI functioneaza dupa principiul “recompensarii” unde se asteapta ca urmarea unei actiuni sa rezulte intr-un “beneficiu” pe care acestia il obtin. In cazul acestui scenariu, continuarea folosirii limbii Engleze in dialog nu aducea niciun beneficiu, asadar agentii AI au construit solutii mult mai eficiente.

Agentii s-au dovedit ca deviaza de la un limbaj inteligibil si inventeaza cuvinte-cod proprii, conform cercetatorului Dhruv Batra, Fast Co. Design. “Este ca si cum eu as spune cuvantul “the” (acel/acea) de cinci ori, iar tu interpretezi ca eu vreau cinci copii ale acelui obiect. Acest lucru nu este foarte diferit de cum evolueaza comunitatile de oameni care creaza scurtaturi in comunicare/limbaj”

Dezvoltatorii din cadrul unor alte companii au observat o utilizare similara a “scurtaturilor” pentru simplificarea comunicarii. La OpenAI, laboratorul pentru inteligenta artificiala creat de Elon Musk, un experiement reusit a constat in a face doi boti AI sa invete un limbaj propriu de comunicare.

Limbajul AI il traduce pe cel al oamenilor in procesul de comunicare

Intr-un caz separat mentionat deja, Google si-a imbunatatit de curand serviciul de traduceri online adagand o retea neuronala la algoritmii acestuia. Sistemul este acum capabil sa traduce mult mai eficient, inclusiv intre perechile de limbi pentru care sistemul nu a fost invatat in mod explicit. Rata succesului retelei neuronale a surprins echipa Google. Cercetatorii au aflat ca agentii AI si-a scris in mod silentions propriul limbaj de comunicare care este mulat specific pe operatiunea de traduceri a propozitiilor.

Daca limbajele inventate de agentii AI devin raspandite, ar putea reprezenta o problema in dezvoltarea si adoptarea unor retele neuronale. Inca nu exista suficiente dovezi pentru a se determina daca acestea reprezinta o amenintare care ar insemna preluarea controlului masinilor si depasirea barierelor de control ale operatorilor.

Aceste amenintari transforma procesul de dezvoltare a sistemelor de inteligenta artificiala, intrucat oamenii nu pot intelege natura logica coplesitoare a limbajelor inventate de masini. Desi aparent par a fi fara sens, rezultatele observate de aceste echipe de cercetatori indica faptul ca aceste limbaje reprezinta defapt cea mai eficienta solutie pentru multe dintre problemele majore cu care neconfruntam.

Va rezulta foarte curand un nou tip de business axat pe securitatea personala in mediul online

In opinia Antreprenor in Romania, in viitorul foarte apropiat se va dezvolta o piata cu foarte mare potential in sectorul “securitatii in mediul virtual” care daca acum se adreseaza in special firmelor si institutiilor publice, foarte curand fiecare persoana conectata la internet si care depinde de un serviciu din mediul virtual va avea nevoie de protectie.

Odata cu utilizarea algoritmilor de inteligenta artificiala si a agentilor AI, existenta in mediul virtual a informatiilor personale va reprezenta un risc major in special in cazul preluarii “accidentale” a controlului de catre unii dintre acesti agenti. Sa nu omitem faptul ca cele mai complexe teste se fac de catre gigantii din piata, giganti care detin extrem de multe informatii personale ale dvs. Iar testele beta cele mai relevante vor fi facute, mai mult ca sigur, pe un esantion de populatie deoarece pentru a avea rezultate notabile trebuie sa existe un esantion suficient de mare pe care sa se testeze acesti algoritmi si modul in care ei evolueaza.

Sa nu pierdem din vedere faptul ca la ora actuala orice miscare a noastra pe internet, in Google, pe Facebook, pe Youtube, in diverse magazine online sau site-uri de profil este monitorizata si in spatele acestei monitorizari ni se creaza un profil al preferintelor iar continutul care ne este servit ca reclama si nu numai este strict legat de aceste preferinte.

Va invitam asadar sa tineti aproape de subiect si sa ganditi in viitor atunci cand alegeti sa dezvoltati un business nou care sa fie functional pe termen lung. O astfel de afacere in domeniul securitatii personale in mediul virtual este demna de luat in seama. Cazurile tot mai frecvente de cyberbullying (atacuri directe la persoane in mediul online prin postari, articole, mesaje, spam-uri, comentarii menite sa faca rau, sa defaimeze, etc) sunt confirmarea clara asupra riscului existent in cazul oamenilor care isi expun viata in mediul virtual.

Pentru ca acest subiect este de interes pentru echipa noastra si intentionam sa dezvoltam competente in domeniu pentru protejarea antreprenorilor in mediul online in primul rand, iar ulterior a persoanelor private, va invitam sa intram in legatura daca subiectul prezinta interes si sa transformam Romania in promotorul acestui tip de business la nivel global.

Asteptam comentariile voastre in partea de jos a paginii in sectiunea dedicata!

Newsletter portal afaceri

Consideri informatia utila? Te rugam sa dai Like si Share pentru ca si alti antreprenori sa afle despre portalul nostru si te invitam sa te inscrii la newsletter pentru primirea ultimelor noutati din mediul afacerilor.

Membership portal

Antreprenor in Romania
Urmariti-ne

Antreprenor in Romania

Echipa editoriala de la Antreprenor in Romania
Participam activ la dezvoltarea culturii antreprenoriale din Romania si a unui ecosistem al reprezentantilor mediului de afaceri romanesc in care antreprenorii sa isi faca cunoscute initiativele, expertiza si ofertele de business.
Antreprenor in Romania
Urmariti-ne
  • Andrei Ianău

    pana cand oamenii nu vor vedea roboti impuscand, nu vor crede

     
    • http://antreprenorinromania.ro/ Antreprenor in Romania

      Problema va fi ca atunci cand vom crea algoritmi, agenti care sa vaneze agentii aceia care incep sa devina autonomi, sa faca ce vor ei. Posibil ca acei algoritmi de aparare sa ajunga sa atace oamenii pt ca avem complexitate in actiuni si gandire si reactii si vom fi catalogati similar. Nefacand diferenta intre “tinta” setata si oameni, vor fi extrem de greu de oprit odata ce se vor raspandi in retea.