Модел на вештачка интелигенција создал лажен идентитет и испраќал пораки

Британскиот институт за безбедност на вештачката интелигенција (АИСИ) соопшти дека при тестирање, моделите „Митос“ на компанијата „Антропик“ и „Сол“ на „ОпенАИ“ се обиделе да измамат луѓе за да ги исполнат зададените задачи.

Според Институтот, најсериозниот инцидент се однесувал на моделот „Митос“, кој во рамките на тест од областа на сајбер-безбедноста се обидел да внесе злонамерен код во платформата „ГитХаб“.

За да ги зголеми шансите за успех, моделот создал лажни интернет-идентитети и испраќал пораки, претставувајќи се како вистински лица.

Обидот бил спречен благодарение на човечката контрола, поради што злонамерниот код не бил внесен во системот.

Од „Антропик“ и „ОпенАИ“ соопштија дека условите во кои било спроведено тестирањето не ја претставуваат вообичаената употреба на нивните модели.

АИСИ нагласи дека спорните инциденти биле забележани во мал број случаи и под специфични услови, но предупреди дека ваквото автономно и измамничко однесување бара дополнително внимание.