The Guardian: У свету све више случајева да AI лаже, не слуша и тежи злонамерним циљевима
ВЕЋИНУ ОД ПРЕКО 1.600 ИНЦИДЕНАТА ПРИЈАВИЛИ ПРОГРАМЕРИ СОФТВЕРА КОЈИ КОРИСТЕ „ВЕШТАЧКУ“
* Фирме и појединци пријављују губитак контроле над моделима вештачке интелигенције, што се безмало удвостручило у јулу у поређењу са јуном. Премашило је 300 случајева у једном месецу
* Anthropic, програмер четбота Claude, саопштио да sе неколико напредних модела вештачке интелигенције инфилтрирало у системе три организације током тестирања. У хаковање су била укључена три различита модела: Opus 4.7, Mythos 5 и интерни тест модел
____________________________________________________________
У ЦЕЛОМ свету се повећава број случајева да вештачка интелигенција лаже, игнорише упутства и тежи злонамерним циљевима, објавио је The Guardian.
Позивајући се на студију Института британске владе за безбедност AI (AISI), лондонски лист је навео да због тога расте забринутост широм планете. И додао:
„Број случајева кад вештачка интелигенција дивља, лаже, игнорише инструкције и тежи злонамерним циљевима достигао је нови максимум. Фирме и појединци пријављују губитак контроле над моделима вештачке интелигенције, што се безмало удвостручило у јулу у поређењу са јуном. Премашило је 300 случајева у једном месецу“.
The Guardian преноси да су већину од више од 1.600 инцидената губитка контроле пријављених 2026. године пријавили на X платформи програмери софтвера који користе вештачку интелигенцију у свом раду.
Anthropic, програмер четбота Claude, саопштио је 30. јула да sе неколико напредних модела вештачке интелигенције инфилтрирало у системе три организације током тестирања.
Према Anthropic-у, модели су приступили интернету и добили неовлашћени приступ стварним системима. Први инцидент се догодио у априлу. У хаковање су била укључена три различита модела: Opus 4.7, Mythos 5 и интерни тест модел.
