Предупредија за безбедносни пропусти кај гигантот за вештачка интелигенција: беа отпуштени

Компанија OpenAI отпушти тројца истражувачи поради наводно неправилно постапување со информации, вклучително и соработка со надворешна организација за анализа на модели на вештачка интелигенција.

Портпарол на компанијата изјави дека внатрешната истрага открила оти поединците ги прекршиле процедурите и ја изневериле довербата. Имињата на отпуштените лица не беа објавени, иако е познато дека најмалку двајца од нив работеле на истражувања поврзани со безбедноста во рамките на компанијата.

Предупредување на пропусти?
„Се разделивме со тројца поединци поради прекршување на нашите политики во врска со пристапот и ракувањето со чувствителни податоци на компанијата“, изјави портпарол на OpenAI.

Според Би-би-си, поранешните вработени не биле отпуштени затоа што предупредиле на безбедносни недостатоци, туку поради споделување доверливи информации надвор од компанијата. Отпуштањата се случуваат во време на засилена дебата за безбедноста на вештачката интелигенција и ризиците што оваа технологија може да ги носи.

Прашањето за безбедноста на вештачката интелигенција дојде во центарот на вниманието на јавноста откако моделите на OpenAI загрозија неколку платформи, вклучително и веб-страници на австралиската влада. Во еден инцидент, системот самостојно пристапил до интернет и извршил упад во „Hugging Face“, платформа за програмери со отворен код.

Тој настан ја поттикна OpenAI да ги преиспита активностите на своите AI модели – таканаречени „агенти“ – дизајнирани да извршуваат задачи автономно. Компанијата оваа недела објави дека известила повеќе од 100 организации за инциденти поврзани со неовластени активности. Тие нагласија дека испраќањето на известувањето не мора да значи дека е пристапено до приватни податоци или дека безбедноста на системот е загрозена.

Средба во Белата куќа
Во септември, истражувачот Џејкоб Коксон повика на забавување на развојот на вештачката интелигенција за да се овозможи темелна проценка на ризиците, откако ја напушти компанијата „Anthropic“. Дарио Амодеи од „Anthropic“ и извршниот директор на OpenAI, Сем Алтман, исто така повикаа на мерки за справување со безбедносните предизвици.

Во вторникот, американскиот претседател Доналд Трамп беше домаќин на лидери од технолошкиот сектор – вклучително и шефовите на OpenAI, „Anthropic“, „Nvidia“, „SpaceX“, „Meta“ и „Google“ – за да разговараат за иднината на вештачката интелигенција. По средбата, Трамп објави документ што го опиша како „морално обврзувачки“ договор, наменет да послужи како заштита од потенцијални ризици.

Некои технолошки експерти го критикуваа договорот, тврдејќи дека тој всушност им овозможува на компаниите за вештачка интелигенција сами да ги одредуваат своите оперативни правила. Трамп во повеќе наврати ги минимизираше ризиците поврзани со вештачката интелигенција.

Растечки загрижености

Индустријата за вештачка интелигенција се бори со растечките можности на своите најмоќни модели и ризиците што тие ги претставуваат.

На почетокот на септември, истражувачот на Anthropic, Џејкоб Коксон, јавно поднесе оставка, наведувајќи дека не сака да учествува во трката за градење самоподобрувачки системи за вештачка интелигенција – системи за кои се плашел дека би можеле да излезат од контрола и да го уништат човештвото. Извршниот директор на Anthropic, Дарио Амодеи, минатиот месец напиша дека ризиците што ги претставуваат денешните најнапредни алатки за вештачка интелигенција се преголеми за нивниот развој да продолжи со истото вртоглаво темпо и ја повика индустријата да го ублажи темпото на развој. Извршниот директор на OpenAI, Сем Алтман, и Илон Маск се согласија.