Im Internet generieren wir täglich Daten, die wir oft für harmlos halten - unsere Likes, unseren Standort oder unseren Browser-Verlauf. Doch Firmen, die diese Daten besitzen, können mittels KI-Algorithmen intime Informationen daraus ableiten: Leiden wir an psychischen Krankheiten? Missbrauchen wir Substanzen? Sind wir reich oder arm? Solche Algorithmen werden dazu verwendet, Menschen automatisiert unterschiedlich zu behandeln: wenn es um den Preis für eine Versicherung geht, die Auswahl von Bewerber:innen bei Einstellungsverfahren, Entscheidungen über Kreditvergabe oder Einreisemöglichkeiten. Die Kombination von Big Data und KI bringt derzeit eine neue Technologie der Bevölkerungsverwaltung hervor. Sie führt zu einer neuen Form der Macht in unseren Gesellschaften, zu der wir alle durch unsere Daten beitragen und die wir deshalb kritisch und ethisch diskutieren müssen.

On the Internet, we generate data every day that we often think is harmless - our likes, our location or our browser history. But companies that own this data can use AI algorithms to derive intimate information from it. Do we suffer from mental illness? Do we abuse substances? Are we rich or poor? Such algorithms are used to treat people differently in an automated way - when it comes to the price of insurance, the selection of applicants in hiring processes, decisions about credit or immigration. The combination of Big Data and AI is currently producing a new technology of population management. This development leads to a new form of power in our societies, to which we all contribute through our data and which we therefore need to discuss critically and ethically.