Umjetna inteligencija može samostalno donositi grupne odluke, bez ljudske intervencije, i – što je još važnije –može nagovoriti druge AI sustave da promijene mišljenje. Pokazuje to nova studija koju su proveli znanstvenici sa Sveučilišta City St George’s u Londonu, a koja otvara ozbiljna pitanja o nadzoru nad AI sustavima koji međusobno komuniciraju.
Prema riječima voditelja istraživanja, profesora Andrea Baronchellija, ovo je prvo strukturirano istraživanje takve vrste provedeno na skupinama AI agenata. U početnim eksperimentima parovi AI sustava trebali su zajednički osmisliti novi naziv za određeni pojam – klasičan zadatak u sociološkim istraživanjima među ljudima. Iako nisu imali upute koje su im dali ljudi, AI agenti su uspješno donijeli zajedničke odluke, piše Sky News.
‘To nam govori da, kada ovakve sustave jednom pustimo u stvarni svijet, oni mogu razvijati ponašanja koja nismo predvidjeli – ili ih uopće nismo programirali’, upozorava Baronchelli, profesor kompleksnih sustava.
AI razvija vlastite pristranosti
U nastavku istraživanja parovi AI sustava stavljeni su u veće grupe te su ubrzo počeli pokazivati pristranost…
Pročitajte više na Tportal.hr
