Traduction d’un article paru sur ET Edge Insights le 26 décembre 2025

Alors que l’Inde accélère son effort en faveur du déploiement à grande échelle
de systèmes d’intelligence artificielle autonomes, un nouveau rapport sur la
sécurité de l’IA publié par le laboratoire de recherche de l’université Amrita,
met en garde contre le retard pris par les mécanismes de gouvernance, de
sécurité et de responsabilité quant à l’adoption de mesures dans le monde réel.
En particulier dans les secteurs à fort impact tels que la santé, la banque,
l’éducation et les services publics.

Intitulé « Principes pour une Mise en place Éthique et Sûre de l’IA Agentique
dans différentes infrastructures – Lignes Directrices en matière de Sécurité pour
les secteurs essentiels en Inde et dans les pays du Sud », ce rapport est l’une
des premières études axées sur l’Inde, à examiner l’essor de l’IA agentique,
c’est-à-dire des systèmes qui ne se contentent pas d’assister les humains, mais
qui planifient, décident et exécutent de manière indépendante des actions
telles que les approbations financières, le triage médical ou les flux de travail
liés aux services aux citoyens.

Direction et équipe de recherche

L’étude a été menée sous la direction d’un comité directeur composé
d’universitaires et de chercheurs expérimentés : Dr Krishnashree Achuthan, présidente du comité directeur, doyenne de l’université Amrita et directrice du Centre pour les Systèmes et Réseaux
de Cybersécurité. Le Dr Sivaramakrishnan R. Guruvayur, co-président, professeur et
directeur du Laboratoire de Recherche sur la Sécurité de l’IA, à l’université Amrita.

L’équipe de recherche principale comprenait : Le Dr Vysakh Kani Kolil, professeur adjoint ; Akshara Ravi, professeure adjointe ; Pavithra S. P., chercheuse universitaire ; Ardhra G., analyste de données
Tous affiliés à l’université Amrita.

Contributeurs experts issus de l’industrie, du droit et de la politique
internationale

Le rapport s’appuie sur des entretiens avec des experts de haut niveau
originaires d’Inde et d’ailleurs, notamment : Aparna Kumar, fondatrice de Nexora Tech ; ancienne directrice informatique chez SBI et HSBC ; Adv. Vibhav Mithal, associé chez Anand and AnandRavi Padaki, PDG d’Anfiniti Consulting ; le Dr Utpal Chakraborty, scientifique spécialisé dans l’IA et la physique quantique ; Ajith Prabhakar, stratège en IA ; Hiromu Kitamura, expert principal en gestion technique, Japan AI Safety Institute ; Arunkumar V. R., directeur de programme – Cybersécurité, Bosch Global Software Technologies ; Pappoppula Muni Kumar, responsable du Centre Mondial des Opérations de Sécurité, Bosch Global Software Technologies ; M. Chockalingam, directeur technologique, Nasscom ; Ankit Bose, responsable à Nasscom AI, Nasscom

L’étude inclut également les points de vue de dirigeants d’entreprises d’une
organisation bancaire et financière mondiale de premier plan, anonymisés pour
des raisons de confidentialité.

Portée et méthodologie
La recherche est basée sur une étude utilisant des méthodes mixtes,
comprenant : une enquête nationale auprès de 110 praticiens et décideurs dans le
domaine de l’IA ; des entretiens qualitatifs approfondis dans quatre secteurs : éducation (56,4 %), services publics et la gouvernance (36,4 %), banque, les services financiers et l’assurance (4,5 %) et santé (2,7 %).

Principales conclusions 
 Le secteur banques-finances-assurances apparaît comme le plus avancé,
grâce aux cadres réglementaires de la Banque Centrale Indienne, qui
prévoient des mécanismes structurés de contrôle humain et de
responsabilité.
 Le secteur de l’éducation affiche le niveau de préparation le plus faible en
matière de sécurité, malgré l’adoption rapide de tuteurs et d’outils
d’évaluation basés sur l’IA, ce qui soulève des inquiétudes concernant les
mineurs, les partis pris négatifs et la désinformation.
 Le secteur de la santé affiche une extrême variabilité, certaines
institutions adoptant une surveillance éthique rigoureuse, tandis que
d’autres déploient des systèmes autonomes avec peu ou pas de
gouvernance.
 Les services publics sont confrontés à un manque de contextualisation,
car les systèmes d’IA conçus pour les utilisateurs urbains anglophones
sont souvent déployés dans des environnements ruraux et peu
connectés.

Tous secteurs confondus, le rapport identifie des faiblesses en matière
d’autonomie éthique, de détection des comportements émergents et de
responsabilité récursive.

Un nouveau cadre de sécurité spécifique à l’Inde

Le rapport propose le « Cadre de Sécurité Adaptatif pour IA Agentique »,
adapté à l’Inde et aux pays du Sud. Les principales recommandations sont les
suivantes :

 Des interfaces de programme d’applications réglementaires lisibles par
machine, au lieu de PDFs statiques de conformité
 Des agents « gardiens » et « observateurs » d’IA pour superviser les
systèmes autonomes
 Une IA sensible à l’infrastructure qui se dégrade en toute sécurité en cas
de faible connectivité
 Des tests de sécurité multilingues et ancrés dans la culture afin d’éviter
toute « maîtrise de la langue délirante »

Pertinence stratégique

Les conclusions s’alignent étroitement sur la Mission Indienne « IA-Inde », sur la
loi de protection des données personnelles numériques, ainsi que sur les
réglementations sectorielles émises par la Banque de l’Inde, la Bourse, le
Ministère de l’Électronique et des Technologies de l’Information, et la
NASSCOM, groupe à but non lucratif de défense des intérêts indiens dans le
domaine des technologies. Elles alertent toutefois sur le fait que l’IA agentique
nécessite une nouvelle réflexion sur la gouvernance qui dépasse l’éthique
traditionnelle de l’IA.

Remerciements
L’équipe de recherche tient à remercier officiellement Sri Mata
Amritanandamayi Devi (Amma), présidente l’université Amrita, dont la vision
d’une technologie basée sur la compassion et socialement responsable sous-
tend les travaux du laboratoire de recherche sur la sécurité de l’IA.