Bereits kleine Änderungen an den Algorithmen könnten Feeds von Nutzenden verändern – und *Rage-Baits senken
Auf den Punkt gebracht
- Algorithmen prägen Überzeugungen: Die Art, wie Inhalte sortiert werden, hat messbare Effekte darauf, was Menschen glauben.
- Engagement ist problematisch: Inhalte, die viele Reaktionen auslösen, führen zu stärkerer Polarisierung und weniger genauen Einschätzungen.
- Konsens ist möglich: Spezielle „Bridging“-Algorithmen können helfen, Meinungsunterschiede zu verringern.
- Mehr Wissen durch andere Auswahl: „Intelligence“-Algorithmen verbessern teilweise die Genauigkeit von Überzeugungen.
- Große Wirkung kleiner Änderungen: Bereits einfache Anpassungen der Rankinglogik können erhebliche Effekte auf kollektives Denken haben.
Was wir in sozialen Medien sehen, wirkt oft zufällig: ein kurzer Kommentar hier, ein emotionaler Post dort, vielleicht ein Beitrag, dem viele andere zugestimmt haben. Doch diese Inhalte erscheinen nicht zufällig. Sie werden von Algorithmen sorgfältig ausgewählt, die entscheiden, was im persönlichen Feed landet und was nicht.
Seit Jahren wird diskutiert, ob solche Algorithmen dazu beitragen, dass sich Menschen stärker polarisieren oder falsche Überzeugungen entwickeln. Die Frage ist jedoch schwer zu beantworten: Zu komplex sind die realen Plattformen, zu undurchsichtig ihre Funktionsweisen.
Forschende der der Universität Kopenhagen, des Max-Planck-Instituts für Bildungsforschung und der TU Dresden sind dieser Frage nun in einem kontrollierten Experiment nachgegangen. Ihr Ziel: herauszufinden, wie genau unterschiedliche Arten der Inhaltsauswahl beeinflussen, was Menschen am Ende glauben.
Ein Social-Media-Experiment in Miniaturformat
Um die Auswirkungen von Empfehlungsalgorithmen so genau wie möglich zu untersuchen, entwickelten die Forschenden eine Miniaturversion einer Social-Media-Plattform. In einem ersten Schritt bewerteten knapp 500 Teilnehmende kurze Beiträge zu politischen und gesellschaftlichen Themen. Aus diesen Bewertungen entstand eine Datenbasis, die zeigte, welche Inhalte bei unterschiedlichen Nutzergruppen Zustimmung oder Ablehnung hervorrufen.
Anschließend erhielten rund 1.000 weitere Teilnehmende Feeds, die aus diesen Beiträgen zusammengestellt wurden. Dabei kamen verschiedene Algorithmen zur Inhaltsauswahl zum Einsatz. Vor und nach dem Lesen der Beiträge gaben die Teilnehmenden ihre Einschätzungen zu den behandelten Themen ab. Auf diese Weise konnten die Forscher untersuchen, wie verschiedene Formen der algorithmischen Inhaltsauswahl die Meinungsbildung beeinflussen und ob sie den Konsens oder die Genauigkeit von Überzeugungen fördern.
Warum beliebte Inhalte nicht unbedingt die besten sind
Ein zentrales Ergebnis betrifft die heute weit verbreitete Praxis, Inhalte nach ihrem erwarteten Engagement auszuwählen. Beiträge, die besonders viele Reaktionen hervorriefen, wurden von den Teilnehmenden häufig als interessant, qualitativ hochwertig und aufschlussreich wahrgenommen. Gleichzeitig führten sie jedoch eher dazu, dass die Teilnehmer polarisiertere und weniger zutreffende Überzeugungen entwickelten. Die Ergebnisse legen nahe, dass subjektive Eindrücke und tatsächliche Informationsqualität nicht immer übereinstimmen.
„Die Plattformen argumentieren häufig, dass ihre Algorithmen lediglich dabei helfen sollen, den Nutzerinnen und Nutzern die Inhalte zu zeigen, die sie sehen möchten“, sagt Erstautor Jason William Burton, Assistenzprofessor an der Universität Kopenhagen und assoziierter Wissenschaftler am Forschungsbereich Adaptive Rationalität des Max-Planck-Instituts für Bildungsforschung in Berlin. „Unsere Ergebnisse zeigen jedoch, dass die Art und Weise, wie diese Algorithmen funktionieren, potenziell schädliche Auswirkungen darauf haben kann, wie Menschen Überzeugungen über die Welt bilden.“
Gleichzeitig sieht Burton die Ergebnisse nicht nur kritisch. „Einerseits sind die Befunde besorgniserregend, weil soziale Medien zu einem zentralen Ort der öffentlichen Debatte geworden sind. Andererseits zeigt unsere Studie aber auch, dass sich Algorithmen so gestalten lassen, dass sie mehr gegenseitiges Verständnis zwischen Nutzerinnen und Nutzern fördern können.“
Brücken bauen und genauer werden
Tatsächlich zeigte die Studie, dass alternative Ansätze möglich sind. Beim sogenannten Bridging Ranking werden Inhalte bevorzugt, die von unterschiedlichen gesellschaftlichen Gruppen positiv bewertet werden. Die Idee dahinter: Beiträge, die über politische oder weltanschauliche Grenzen hinweg akzeptiert werden, könnten helfen, gemeinsame Perspektiven zu fördern. Die Ergebnisse deuten darauf hin, dass dieser Ansatz teilweise zu größerem Konsens zwischen den Teilnehmenden beiträgt.
Ein anderer Ansatz, das Intelligence Ranking, zielt darauf ab, Inhalte zu bevorzugen, die realistischere kollektive Einschätzungen fördern. Auch hier fanden die Forschenden Hinweise darauf, dass sich die Genauigkeit von Überzeugungen verbessern kann – insbesondere bei Fragen, die einen überprüfbaren Ausgang haben.
Keiner der Ansätze erwies sich allerdings in allen Situationen als überlegen. Wie stark die Effekte ausfielen, hing auch vom jeweiligen Thema ab.
Warum diese Ergebnisse wichtig sind
Die Studie zeigt, dass Algorithmen mehr sind als technische Werkzeuge zur Organisation von Inhalten. Sie greifen aktiv in Prozesse der Meinungsbildung ein, selbst dann, wenn ihre Funktionsweise vergleichsweise simpel ist.
Langfristig wird es darum gehen, Ansätze eines prosozialen Plattform-Designs zu entwickeln: „Wir stehen noch ganz am Anfang“, sagt Co-Autor Philipp Lorenz-Spreen, Leiter der Nachwuchsgruppe Computational Social Science an der Technischen Universität Dresden und assoziierter Wissenschaftler am Forschungsbereich Adaptive Rationalität des Max-Planck-Instituts für Bildungsforschung. „In dieser Studie haben wir bewusst stark vereinfachte Varianten von Empfehlungsalgorithmen untersucht. Aber irgendwo muss man anfangen. So entsteht auch technologische Entwicklung: Man testet zunächst im Labor, welche Ansätze funktionieren, und überträgt diese anschließend schrittweise in reale Anwendungen.“
Langfristig gehe es nicht darum, bestehende Plattformen oder erfolgreiche Empfehlungssysteme komplett zu ersetzen. Vielmehr müssten Wege gefunden werden, gesellschaftlich wünschenswerte Ziele stärker zu berücksichtigen als bisher.
„Die Herausforderung besteht darin, mehr prosoziale Effekte zu erreichen, ohne die positiven Eigenschaften heutiger Systeme zu verlieren“, sagt Lorenz-Spreen. „Es bringt wenig, einen Algorithmus zu entwickeln, der theoretisch bessere Diskussionen ermöglicht, wenn die Nutzerinnen und Nutzer die Plattform anschließend verlassen. Aber gesellschaftliche Schäden wie Polarisierung sind zu gravierend, um sie weiter zu ignorieren.“
Die Forschenden sehen ihre Arbeit deshalb als einen ersten Schritt in einer größeren Entwicklung. Neue soziale Netzwerke und offene Plattformen experimentieren bereits mit alternativen Empfehlungsalgorithmen, die Nutzenden mehr Kontrolle über die Auswahl von Inhalten geben. Die nun vorgestellten Ergebnisse liefern eine erste experimentelle Grundlage dafür, solche Ansätze systematisch zu untersuchen und weiterzuentwickeln.
Max-Planck-Gesellschaft – 31. Juli 2026
*Rage-Bates:
Rage Bait oder Ragebait (dt.: „Wut-Köder“) bezeichnet Online-Inhalte, die gezielt Wut oder Empörung hervorrufen, um das Engagement der Nutzer zu steigern. Diese Inhalte erscheinen oft auf Social-Media-Plattformen und zielen darauf ab, virale Interaktionen zu generieren, indem sie emotionale Reaktionen provozieren. Ein weiterer Ausdruck, der in diesem Zusammenhang verwendet wird, ist Engagement farming. – https://de.wikipedia.org/wiki/Rage_Bait
Originalveröffentlichung
Burton, J. W., Herzog, S. M., & Lorenz-Spreen, P. (2026).
Simple changes to content curation algorithms affect the beliefs people form in a collaborative filtering experiment.
In N. Oliver, D. A. Shamma, H. Candello, P. Cesar, P. Lopes, A. Bozzon, T. Kosch, V. Liao, X. Ma, V. Artizzu, F. Draxler, G. López, A. V. Reinschluessel, X. Tong, & P. O. Toups Dugas (Eds.), CHI ’26: Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems. ACM.
Themendossier über Social Media
Social media, as a digital space, shapes the way we live together – with various effects on society as a whole and on each of us as individuals. Max Planck researchers are investigating how this digital environment is evolving, what opportunities and risks it presents, and how legal regulation impacts it. Here are the key findings from the humanities and social sciences, as well as from mathematics and IT research.