Interviurile Business24.ro
HOT TOPICS

Cum poate banala agrafa de birou sa distruga lumea. Parabola care ne arata care este problema cu Inteligenta Artificiala

Cum poate banala agrafa de birou sa distruga lumea. Parabola care ne arata care este problema cu Inteligenta Artificiala
Un experiment mintal deseori invocat in lumea Inteligentei Artificiale foloseste prozaica agrafa de birou pentru a demonstra cum un algoritm, adica un set de reguli, creat fara nicio intentie rauvoitoare, poate ajunge sa distruga omenirea.

Este propus urmatorul exercitiu de imaginatie, detaliat de Quartz: un grup de programatori realizeaza un algoritm inteligent cu un scop aparent nevinovat: sa adune cat mai multe agrafe de birou posibil. Este un algoritm de tip machine-learning, ceea ce inseamna ca invata din experienta si devine din ce in ce mai bun la realizarea activitatii pentru care a fost creat.

Va incepe probabil prin a cumpara agrafe din magazinele de papetarie, pana cand va epuiza stocurile. Intre timp, va fi realizat ca agrafele se pot rataci usor - le va cauta astfel pe sub birouri sau pe fundul sertarelor. La un moment dat, nu va mai gasi nicio agrafa. Va invata atunci sa le faca singur, mai intai din obiecte aflate la indemana, cum ar dintii furculitelor, si ar putea sa ajunga in cele din urma sa prefaca orice bucata de metal din lume in agrafe de birou, stergand omenirea de pe fata pamantului si transformandu-ne planeta, poate si o parte din spatiu, intr-o gigantica fabrica de agrafe de birou.

Acest scenariu poate caraghios in exagerarile sale, cunoscut sub denumirea de "Maximizator de agrafe de birou" (Paper Clip Maximizer), este menit sa demonstreze ce se poate intampla cand o astfel de tehnologie se dezvolta necontrolat: oamenii pot crea Inteligenta Artificiala care sa o imite si chiar sa o intreaca pe cea umana, insa marea provocare este aceea de a o inzestra si cu o motivatie de tip uman.

Parabola ii este atribuita filozofului Nick Bostrom, profesor la Universitatea Oxford si autorul cartii "Superinteligenta", numit de The New Yorker "filozoful sfarsitului lumii" ca urmare a preocuparilor sale pentru urmarile situatiei in care un computer devine superinteligent.

"Este foarte posibil sa avem o superinteligenta al carei unic obiectiv este ceva complet arbitrar, precum fabricarea a cat mai multe agrafe de birou posibil si care se va opune cu toata forta sa oricarei incercari de a impiedica atingerea acestui obiectiv", a scris Bostrom in 2003.

Esecul de a inzestra aceasta superinteligenta cu etica si valorile umane poate avea drept consecinta "transformarea mai intai a intregului Pamant, apoi a unor zone din ce in ce mai vaste din spatiu in fabrici de agrafe de birou". Alegoric vorbind.

Nu se pune problema stoparii prog ...citeste mai departe despre "Cum poate banala agrafa de birou sa distruga lumea. Parabola care ne arata care este problema cu Inteligenta Artificiala" pe Ziare.com

Ti-a placut acest articol? Urmareste Business24 si pe Facebook! Comenteaza si vezi in fluxul tau de noutati de pe Facebook cele mai noi si interesante articole de pe Business24.
Sursa: Business24
Articol citit de 1261 ori