Valentin Ionescu, președintele Institutului de Studii Financiare (ISF) a explicat de ce utilizarea tot mai intensă a AI induce riscuri substanțiale și la ce trebuie să fim atenți atunci când o folosim. ” Utilizarea inteligenței artificiale (AI) în industria asigurărilor aduce multe beneficii, cum ar fi îmbunătățirea eficienței operaționale, personalizarea ofertelor și automatizarea proceselor. Cu toate acestea, există și riscuri care trebuie gestionate pentru a proteja atât companiile de asigurări, cât și clienții lor.”, a spus Valentin Ionescu, citat de www.studiifinanciare.ro
Discriminarea și prejudecățile algoritmice
– Ex: Algoritmii de AI pot reflecta prejudecăți și inechități care există în datele de antrenament. Dacă un algoritm învață din date istorice care conțin prejudecăți legate de rasă, sex, vârstă sau alți factori, poate lua decizii care sunt discriminatorii, de exemplu, refuzând sau penalizând anumite grupuri de clienți pe baza unor caracteristici care nu sunt relevante pentru evaluarea riscului.
De ex : Un algoritm care folosește datele istorice de la clienți pentru a evalua riscurile de asigurare poate ajunge la concluzii discriminatorii dacă acele date conțin tendințe de discriminare pe baza sexului sau etniei.
Lipsa transparenței și explicabilității
– Ex: Modelele AI complexe, cum ar fi rețelele neuronale, pot fi opace și greu de înțeles pentru utilizatori și reglementatori. Acest lucru poate duce la dificultăți în înțelegerea deciziilor luate de AI și în verificarea corectitudinii acestora.
– Ex: Dacă un client nu este acceptat pentru o poliță de asigurare sau nu primește o sumă corectă în urma unui accident, compania ar putea să nu fie capabilă să explice în mod clar motivul deciziei, ceea ce poate afecta încrederea consumatorilor și poate duce la litigii.
Risc de securitate cibernetică și atacuri
– Ex: AI poate fi vulnerabil la atacuri cibernetice, cum ar fi manipularea datelor sau atacuri adversariale care modifică comportamentul algoritmilor. În industria asigurărilor, aceste atacuri pot afecta sistemele de evaluare a riscurilor, de stabilire a prețurilor sau de gestionare a daunelor.
– Ex: : Un atac cibernetic care modifică algoritmul folosit pentru a evalua cererile de despăgubire poate duce la plăți eronate sau la procesarea incorectă a cererilor de despăgubire, afectând astfel atât compania de asigurări, cât și clienții.
Dependența de date necorecte sau incomplete.
AI este dependent de calitatea datelor pe care le primește. Dacă datele sunt incomplete, inexacte sau neactualizate, modelele AI pot lua decizii greșite sau pot face estimări incorecte ale riscurilor.
– Dacă un sistem AI utilizează date incomplete despre istoricul unui client (de exemplu, istoricul de daune neînregistrate corect sau date de sănătate inexacte), poate oferi o evaluare incorectă a riscului și poate stabili prețuri incorecte pentru polițele de asigurare.
Probleme legate de conformitatea cu reglementările
Ex: Utilizarea AI poate întâmpina dificultăți în conformarea cu reglementările legale și etice. De exemplu, reglementările de protecție a datelor (precum GDPR în Uniunea Europeană) impun cerințe stricte privind colectarea și procesarea datelor personale, iar AI poate duce la încălcarea acestor reglementări dacă nu este utilizat corect.
– ex: Dacă un algoritm AI folosește date personale sensibile, cum ar fi istoricul medical al unui client, pentru a determina riscurile și nu există măsuri corespunzătoare de protecție a datelor, compania de asigurări ar putea încălca reglementările de protecție a datelor, ducând la amenzi mari și deteriorarea reputației.