ABBYY s'engage aux côtés de ForHumanity pour créer des systèmes d'audit indépendants de l'IA

Au cours du prochain ABBYY AI Summit qui se tiendra le 15 mai à l’Emirates Stadium de Londres, l'entreprise se penchera sur la façon dont les établissements financiers peuvent s'adapter aux exigences de conformité en constante évolution.

ABBYY annonce son partenariat avec l’association ForHumanity dans le but d'aider le secteur des services financiers à s'adapter aux nouvelles réglementations relatives à l'utilisation de l'intelligence artificielle. Dans cette optique, ABBYY copilotera un groupe de travail chargé de définir des critères d'audit pour l'IA, ainsi que pour les systèmes algorithmiques et autonomes (AAA).

Ces initiatives font suite à l'adoption de la loi européenne sur l'IA et du décret américain sur l'IA, lesquels établissent des réglementations concernant l'éthique, la partialité, la vie privée, la confiance et la cybersécurité des systèmes AAA. Ces mesures contraignantes inciteront les organisations internationales à se conformer à ces exigences réglementaires.

La mission de ForHumanity est de rendre l’IA plus sûre pour la société, de soutenir les agences gouvernementales et réglementaires et de gérer les risques associés aux systèmes d’AAA. Ces systèmes englobent l'IA dotée de capacités d'analyse et d'interprétation des données, ainsi que la capacité d'apprendre de ses expériences et d'exécuter des actions sans supervision humaine constante.

En ce qui concerne la gestion du risque de modèle, les organismes bancaires doivent être attentifs aux conséquences négatives possibles des décisions fondées sur des modèles d’IA biaisés ou mal utilisés. Ceux-ci sont en effet susceptibles d’entraîner des pertes financières, de mauvaises décisions commerciales et stratégiques ou encore de porter atteinte à la réputation de l’organisme bancaire.

Une fois les critères d’audit indépendant définis, ForHumanity soumettra les règles à l’autorité des organismes de réglementation concernés, tels que la FINRA, le Federal Reserve Board, le Département du Trésor américain et l’Office of the Comptroller of the Currency, ainsi que d’autres juridictions telles que le Bureau du surintendant des institutions financières du Canada, l’Autorité de conduite financière et la Banque centrale européenne.