Сте го гледале ли филмот „Малцински извештај“? Ви текнува ли на „пре-кон“ луѓето што лежеа во некоја полуживотна состојба во некоја органска течност, само за да се предвиди кој е потенцијален деликвент? САД решија тоа да го направат

Новиот софтвер изработен од IBM ќе одлучува кој од младите е потенцијално деликвентен и тоа момче или девојка ќе бидат подлегнати на специфична програма за превенција и едукација. Збогум човекови права!

Системот ќе зема во предвид серија варијабли кај оние кои веќе направиле некој вид криминал и  ќе определува кој од нив е подготвен истото да го повтори. Според оваа можност, тие ќе бидат праќани на специфична ресоцијализација.

Дипак Авдани, потпретседател на програмата за предвидување на IBM вели дека системот дава „веродостојни проекции“, па владата ќе може да преземе „навремена акција“ за „превенција на криминални активности“.

Новинарите во Америка се прашуваат, навистина, „веродостојни проекции“, „навремена акција“, „превенција на криминални активности“? „Не знам колку е веродостоен вашиот систем, IBM, но сте чуле ли за 5-тиот, 6-тиот, и за 14-тиот амандман од Уставот на САД? Или за 11 член на Меѓународната декларација за човекови права? Не?! Тогаш дозволете да ве потсетам: кои беа последиците од програмата во „Малцински извештај“?Секако, некои ќе се сложат дека вакви програми веќе биле употребувани за младите деликвенти, па да, нема да штети ни сега. Овој софтвер ќе помогне да се заштитиме од понатамошен криминал. Ќе не направи побезбедни? Навистина? Која е гаранцијата? Зошто Владта претпоставува дека деликвенцијата е дадена, наследена? И зошто владата мора да одлучи кој ќе ја помине специфичната програма за превенција, а кој не, базирано врз податоци од компјутер? Факт е дека доколку софтверот е 99.99 отсто сигурен, секогаш ќе има невин човек што ќе биде неправедно изложен на програмата. И затоа имаме нешто што се вика пресумпција на невиност“, коментира еден од новинарите на Gizzmondo.

Некои ќе речат дека овие работи веќе поминуваат низ владините органи и тие одлучуваат врз основа на извештаи и според личен суд. Точно. Изгледа дека компјутерската програма може да биде пофер од човекот, нели? Можеби. Но на крај, интерпретацијата на податоците ја прави човек, а и програмата ја направил човек.

Но, загрижувачки е што ова е прв чекор кон нешто големо и поцрно. Можеби втор, затоа што Министерството за правда на Велика Британија иако има правило за пресумпција на невиност, сепак користи програма за предвидување. Или дури трет чекор, затоа што постои црна листа на потенцијални терористи, иако не софистицирана како оваа.

Јасно е дека IBM сака системот да го протурка на голема врата, затоа што дадоа 12 милијарди долари за да го развијат.

„Предвидувачката анализа им овозможува на владите ширум светот високо-софистициран и интелигентен извор за оформување на побезбедни општества преку идентификација, предвидување, одговор и активности за спречување на криминал. Му овозможува на кривично-правниот систем можност да помине низ базата на податоци за да предвиди користејчи веродостојни податоци, а потоа навремено да преземе соодветни мерки за да го сузбие криминалот и да ги заштити граѓаните“, е буквалната изјава на Дипак Авдани од IBM при претставување на софтверот.

Ако ви звучи застрашувачки, нависитна е. Најпрво се работи за осудвани-но-потенцијални-повратници во криминалот. Потоа се потенцијалните терористи. Потоа, сите ние, во голема база на податоци, секој момент ќе може да бидеме обележани со знаменце, поради некоја комбинација на варијабли – патувања, кредитни картички, врски, пораки, социјална активност и се друго, што ќе покаже дека можеби мислиме да направиме нешто противзаконско. Системот за предвидување, мислејќи на нас, можеби ќе пропушти потенцијално убиство, кражба или терористички акт.

Всушност, звучи како добра идеја. На пример, има одредени показатели кои можат да обележат потенцијален психопат и потенцијален убиец или злоставувач на деца или сопруг што ја тепа сопругата. Оваа програма единствено може да се користи како показател, па откако некој ќе се појави како потенцијално опасен, да се набљудува.

Реално, не е добра идеја. Додека се чини дека сето ова е направено од желбата да се придонесе кон поголема безбедност, една единствена грешка може да го направи целиот систем нефер. Што и не е за ценење. Имено, може повторно да фрли сенка на IBM, како во 1930 година, кога направија систем со добра цел, за да ги воочат потребите и проблемите на граѓаните во Европа, и системот беше продаден на тамошните влади. Сепак, на крај се покажа дека системот не испадна добар за 11 милиони луѓе.

Не е важно како ги каталогизираш луѓето, кој и да е човек, базирано на статистички податоци, ставени во еден компјутерски систем за предвидување и според тоа да се преземаат акции е многу лош начин да се подобри едно општество. Ако се согласиме со овој систем, ќе отидеме по еден фатален пат.