PyRAT

Wat kan ik leren?

Een softwaredemonstrator, ontwikkeld door CEA-List, om de betrouwbaarheid van de antwoorden van een neuraal netwerk binnen bepaalde configuraties te bewijzen. Een visueel rijke interface legt de logica achter PyRAT en de betrokken wiskundige bewerkingen bloot, waarmee gebruikers met verschillende analyseparameters kunnen experimenteren. Toepassingen variëren van botsingsvermijding bij vliegtuigen tot medische diagnostiek.

Kerninzicht

Neurale netwerken hoeven niet volledig oncontroleerbaar te zijn: in afgebakende settings kan hun gedrag formeel worden geanalyseerd en kan hun betrouwbaarheid worden beargumenteerd — een glimp van hoe "betrouwbare AI" er onder de motorkap uitziet.

Hoe gebruik je het in je dagelijks werk

Een wat technischere bron die je helpt te begrijpen, en over te brengen, dat er serieus werk wordt verricht aan het verifiëren van AI-systemen — nuttige context bij het bespreken van risicovolle toepassingen zoals gezondheid of veiligheid.

• Verwijs naar PyRAT wanneer een cliënt zich zorgen maakt over AI in kritische settings, om uit te leggen dat betrouwbaarheid soms getoetst kan worden in plaats van aangenomen.
• Gebruik de visuele interface om op conceptueel niveau te zien hoe analyse van de antwoorden van een netwerk tastbaar gemaakt kan worden.