Un experiment mintal deseori invocat in lumea Inteligentei Artificiale foloseste prozaica agrafa de birou pentru a demonstra cum un algoritm, adica un set de reguli, creat fara nicio intentie rauvoitoare, poate ajunge sa distruga omenirea.
Este propus urmatorul exercitiu de imaginatie, detaliat de Quartz: un grup de programatori realizeaza un algoritm inteligent cu un scop aparent nevinovat: sa adune cat mai multe agrafe de birou posibil. Este un algoritm de tip machine-learning, ceea ce inseamna ca invata din experienta si devine din ce in ce mai bun la realizarea activitatii pentru care a fost creat.
Va incepe probabil prin a cumpara agrafe din magazinele de papetarie, pana cand va epuiza stocurile. Intre timp, va fi realizat ca agrafele se pot rataci usor - le va cauta astfel pe sub birouri sau pe fundul sertarelor. La un moment dat, nu va mai gasi nicio agrafa. Va invata atunci sa le faca singur, mai intai din obiecte aflate la indemana, cum ar dintii furculitelor, si ar putea sa ajunga in cele din urma sa prefaca orice bucata de metal din lume in agrafe de birou, stergand omenirea de pe fata pamantului si transformandu-ne planeta, poate si o parte din spatiu, intr-o gigantica fabrica de agrafe de birou.
Acest scenariu poate caraghios in exagerarile sale, cunoscut sub denumirea de "Maximizator de agrafe de birou" (Paper Clip Maximizer), este menit sa demonstreze ce se poate intampla cand o astfel de tehnologie se dezvolta necontrolat: oamenii pot crea... mai mult
Sambata, 24 Februarie 2018, ora 15:16