Бос OpenAI Сем Алтман: Вештачка интелигенција улази у опасну фазу самоусавршавања

ИЗМИЧЕ КОНТРОЛИ - НА УЗБУНУ ЗВОНИ И БРИТАНСКИ ИНСТИТУТ АЛАНА ТЈУРИНГА

* „Крећемо се ка стварању система способних да се самоусавршавају. И себе и своје будуће верзије. Аутоматизација развоја AI могла би довести до убрзавања напретка у тој области. У таквој ситуацији је потребан изузетан опрез. Постоје разлози за забринутост“

_____________________________________________________

             ГЕНЕРАЛНИ директор америчке компаније OpenAI Сем Алтман оценио је да се вештачка интелигенција пребрзо развија и да то човечанству прети озбиљним ризицима.

             „Крећемо се ка стварању система способних да се самоусавршавају. И себе и своје будуће верзије. То је процес познат као рекурзивно самоусавршавање. Аутоматизација развоја AI могла би довести до убрзавања напретка у тој области. У таквој ситуацији је потребан изузетан опрез. Постоје разлози за забринутост“, рекао је Алтман на састанку Савета безбедности Уједињених нација о AI.

             Према његовим речима, постоји могућност да се ситуација развија тако брзо да људи неће моћи да на време схвате шта се дешава и да, буде ли потребно, утичу на ток догађаја.

             Такав сценарио, упозорио је, могао би имати изузетно негативне последице.

             Према британском Институту Алана Тјуринга, системи AI који надмашују људе у свим когнитивним задацима могли би се појавити у наредних пет година, што ће донети ризик губитка значајне људске контроле над њима.

              Напоменуо је да би се моћнији и аутономнији системи вештачке интелигенције могли појавити у наредних пет година, што би људима отежало процену, контролу и ограничавање њиховог понашања.