Models All the Way Down

Wat kan ik leren?

Een visueel verhaal van het onderzoeksproject Knowing Machines dat de bouw volgt van LAION-5B — de open foundation-dataset van 5,8 miljard beeld-tekstparen die wordt gebruikt om modellen als Stable Diffusion te trainen. Het onderzoek pluist uit wat er werkelijk in een dataset zit die te groot is voor enig mens om te beoordelen, en wat dat betekent.

Kerninzicht

Generatieve AI is "models all the way down": elk model rust op een dataset die zelf het product is van eerdere modellen, scrapingkeuzes en aannames. De trainingsdata is geen ruwe werkelijkheid maar een geconstrueerd, rommelig, ingrijpend artefact.

Hoe gebruik je het in je dagelijks werk

Een toegankelijke, visuele bron om te begrijpen waar beeldgeneratoren hun materiaal vandaan halen en waarom die oorsprong hun uitvoer en bias vormgeeft.

• Gebruik het werk om een cliënt uit te leggen waarom een AI-beeldgenerator stereotype of scheve resultaten oplevert — het heeft ze uit de data geleerd.
• Put uit de schaal van LAION-5B om over te brengen waarom niemand volledig beheerst of inspecteert wat deze modellen hebben gezien.