PyRAT

Qu'est-ce que je peux apprendre ?

Un démonstrateur logiciel, développé par le CEA-List, pour prouver la fiabilité des réponses d'un réseau de neurones dans des configurations données. Une interface visuellement riche dévoile la logique de PyRAT et les opérations mathématiques en jeu, permettant d'expérimenter différents paramètres d'analyse. Les applications vont de l'anticollision aérienne au diagnostic médical.

Idée clé

Les réseaux de neurones n'ont pas à être totalement incontrôlables : dans des cadres contraints, leur comportement peut être analysé formellement et leur fiabilité argumentée — un aperçu de ce à quoi ressemble une « IA de confiance » sous le capot.

Comment l'utiliser au quotidien

Une ressource plus technique qui aide à comprendre, et à faire comprendre, qu'un travail sérieux existe sur la vérification des systèmes d'IA — contexte utile pour parler d'usages à fort enjeu comme la santé ou la sécurité.

• Citez PyRAT lorsqu'un usager s'inquiète de l'IA dans des contextes critiques, pour expliquer que la fiabilité peut parfois être testée plutôt que supposée.
• Utilisez l'interface visuelle pour voir, au niveau conceptuel, comment l'analyse des réponses d'un réseau peut être rendue tangible.