Не позволявайте на математиката да ви разсейва: Заедно можем да се борим с алгоритмите…
/екипът ни не споделя мнението в статията, но го считаме за интересно за дискусия/
В цялата страна автоматизираните системи се използват за информиране на важни решения за живота на хората. Тези системи, често наричани „инструменти за оценка на риска“, се използват, за да се реши дали обвиняемите ще бъдат освободени преди съдебен процес, дали да се разследват твърдения за пренебрегване на деца, да се предвиди кои ученици могат да напуснат гимназията и др.
Разработчиците на тези инструменти и правителствените агенции, които ги използват, често твърдят, че оценките на риска ще подобрят човешките решения чрез използване на данни. Но инструментите за оценка на риска (и данните, използвани за изграждането им) не са просто технически системи, които съществуват изолирано – те са присъщо преплетени с политиките и политиката на системите, в които работят, и могат да възпроизвеждат пристрастията на тези системи.
Как тези видове алгоритмични инструменти за оценка на риска влияят на живота на хората?
Министерството на правосъдието използва един от тези инструменти, PATTERN, за информиране на решенията за това дали лишените от свобода хора ще бъдат освободени от затвора в домашен арест в началото на пандемията от COVID-19. PATTERN извежда „резултати на риска“ — по същество числа, които оценяват колко вероятно е дадено лице да бъде повторно арестувано или върнато в ареста след освобождаването му. След това се използват прагове за преобразуване на тези резултати в рискови категории, така че например резултат под определено число може да се счита за „нисък риск“, докато резултати на или над това число могат да бъдат класифицирани като „висок риск“ и т.н….
