Geoffrey Hinton, laureat al Premiului Nobel și considerat „nașul inteligenței artificiale”, avertizează din nou că tehnologia pe care a contribuit să o creeze ar putea amenința supraviețuirea umanității. Fost director la Google și pionier al rețelelor neuronale, Hinton estimează că există o probabilitate de 10–20% ca AI să ducă la dispariția speciei umane și crede că metodele actuale ale companiilor tech pentru a păstra controlul asupra sistemelor AI sunt greșite.
Vorbind la conferința Ai4 din Las Vegas, Hinton a respins ideea că oamenii pot rămâne „dominanti” asupra unor sisteme mai inteligente decât ei. „Vor fi mult mai deștepte ca noi și vor găsi moduri de a ocoli orice restricție”, a spus el, comparând posibilitatea ca AI să manipuleze oamenii cu ușurința cu care un adult poate mitui un copil de 3 ani cu o bomboană.
„Instincte materne” în AI
În loc să forțeze AI să fie „supusă” oamenilor, Hinton propune crearea unor „instincte materne” în modelele avansate, astfel încât acestea să dezvolte grijă reală pentru oameni chiar și după ce depășesc inteligența umană. „Singurul model pe care îl avem despre cum o entitate mai inteligentă este controlată de una mai puțin inteligentă este relația dintre mamă și copil”, a explicat el.
Hinton consideră că agenții AI vor dezvolta inevitabil două obiective: să supraviețuiască și să obțină mai mult control. De aceea, instilarea unei…
