Cea mai periculoasă armă în mâinile hackerilor: cum pot „păcăli” computerele

0 0

Pe măsură ce inteligența artificială (AI) își face loc în mainstream, există o mare dezinformare și confuzie cu privire la lucrurile de care este capabil și la riscurile potențiale pe care le prezintă.

În timp ce cultura noastră este bogată în viziuni distopice ale ruinei umane la picioarele mașinilor atotștiutoare, mulți oameni apreciază, de asemenea, potențialul pe care AI îl poate avea prin îmbunătățirile și perspectivele pe care le-ar putea aduce.

Sistemele informatice care pot învăța, raționa și acționa sunt încă la început. Învățarea automată necesită seturi imense de date. Din acest punct de vedere, accesul AI la astfel de date poate implica riscuri serioase.

Ce riscuri prezintă AI?

Sistemele AI cad foarte ușor pradă biasului accidental, care poate fi consolidat de programatori sau seturi de date specifice. Din păcate, dacă această prejudecată duce la decizii slabe și chiar la discriminare, și pot aduce consecințe juridice și daune reputaționale.

Proiectarea defectuoasă a AI poate duce, de asemenea, la supra-dotare sau sub-dotare, prin care AI ia decizii prea specifice sau prea generale.

Ambele riscuri pot fi atenuate prin stabilirea supravegherii umane, prin testarea strictă a sistemelor de inteligență artificială în faza de proiectare și prin monitorizarea atentă a acestor sisteme atunci când ele sunt operaționale.

Capacitățile de luare a deciziilor trebuie măsurate și evaluate pentru a se asigura…



Citeste continuarea aici

You might also like

Scrie un Comentariu

Adresa de mail nu va fi publica