KI in der Sozialen Arbeit: Potenziale und Herausforderungen

Der Einsatz von KI-Tools in Organisationen der Kinder- und Jugendarbeit bietet vielfältige Potenziale und Herausforderungen. Diese gilt es im Vorfeld des Einsatzes von KI-Tools zu berücksichtigen und praxisnah sowie kritisch zu reflektieren. Auf dieser Seite bieten wir daher Impulse, um einen verantwortungsvollen und gewinnbringenden Umgang mit Künstlicher Intelligenz im sozialpädagogischen Kontext zu ermöglichen.

Potenziale

Zeitersparnis

Generative KI-Tools können bei routinemäßigen Aufgaben unterstützen, wie etwa beim Schreiben von Berichten, bei Zusammenfassungen von Dokumenten oder bei Recherchetätigkeiten.
Mit generativen KI-Tools können Inhalte sehr einfach in andere Sprachen oder in einfache Sprache übersetzt werden.
Regelbasierte KI-Tools, etwa organisationsinterne Chatbots, können Fachkräften dabei helfen, schnell und unkompliziert an wichtige Informationen (z.B. im Intranet einer Organisation) zu kommen.

➔

Dadurch gewinnen Fachkräfte Zeit für die direkte Arbeit mit Adressat:innen und für die Beziehungsarbeit.

Achtung: Generative KI-Tools halluzinieren und sind nie neutral. Die erstellten Inhalte müssen immer von Menschen gegengeprüft und gegebenenfalls überarbeitet werden (Human-in-the-Loop). Darüber hinaus ist die Qualität von Übersetzungen je nach Sprache unterschiedlich.

Unterstützung bei komplexen Aufgaben

Generative KI-Tools können als Sparring-Partner:innen dienen, um in einen Austausch zu treten und Gedanken zu konkretisieren, oder als Impulsgeber:innen, um Ideen umzusetzen, Konzepte zu entwickeln, Grafiken oder Videos zu erstellen.
Sowohl generative als auch regelbasierte KI-Tools können Daten in kurzer Zeit analysieren und Muster und Zusammenhänge identifizieren.

➔

Damit können Fachkräfte etwa bei der Erstellung von Betreuungsplänen, pädagogischen Konzepten oder beim Abwägen von Entscheidungen unterstützt werden.

Achtung: Bei der Verwendung von generativer KI ist das Token-Fenster begrenzt. Dies kann bei längeren Diskussionen oder bei der Analyse großer Datenmengen einschränkend wirken. Beim Einsatz von KI in der Entscheidungsfindung besteht die Gefahr, die Verantwortung an KI-Tools abzugeben oder den Vorschlägen von KI-Tools zu folgen, auch wenn z.B. Fachkräfte anders entscheiden würden (Automatisierungsverzerrung).

Empowerment

KI-Tools ermöglichen es Fachkräften ohne Spezialkenntnisse (Videoschnitt, Grafikdesign), eigene kreative Ideen umzusetzen (z.B. Podcasts erstellen, Bilder generieren, Plakate gestalten).
KI-gestützte virtuelle Assistent:innen können eingesetzt werden, um Adressat:innen rund um die Uhr Unterstützung zu bieten. Diese Assistent:innen können einfache Anfragen beantworten oder Adressat:innen an die richtigen Stellen und Ansprechpersonen weiterleiten. Damit geht das Potenzial einher, Betreuungsprozesse zielgerichteter zu gestalten.
Fachkräfte und Adressat:innen erhalten mit KI-Tools Zugänge zu neuen Wissensbereichen.

➔

Sowohl Fachkräfte als auch Adressat:innen können durch KI-Tools in der Umsetzung ihrer Anliegen selbstbefähigt und selbstermächtigt agieren, was zur Stärkung von Eigenmacht und Autonomie beitragen kann.

Achtung: Der angemessene Umgang mit digitalen Technologien im Allgemeinen und mit KI-Tools im Besonderen erfordert Kenntnisse und Fähigkeiten auf verschiedenen Ebenen. Dies setzt den Erwerb von Digital und AI Literacies voraus, die es ermöglichen, digitale Technologien zu bedienen und sich kritisch mit ihnen auseinanderzusetzen. Der Erwerb dieser Literacies soll bei Fach- und Führungskräften jedoch nicht zusätzlich zum bereits hohen Arbeitspensums erfolgen. Vielmehr müssen Zeit und Ressourcen für informelle und formelle Lernsettings von den jeweiligen Organisationen bereitgestellt werden.

Herausforderungen

Mensch-Maschine-Interaktion

Menschen neigen dazu, maschinell präsentierte Ergebnisse zu bevorzugen, selbst wenn diese falsch sind. Zu großes Vertrauen in KI-Tools kann somit zu Fehlentscheidungen führen. Dies wird auch als Automatisierungsverzerrung bezeichnet.
Menschen versuchen die Funktionsweise von KI-Tools zu verstehen, während sie diese anwenden, und entwickeln dabei pragmatisches Wissen. Vor allem generative KI-Tools sind aber nicht so konzipiert, dass diese vollständig von Menschen nachvollzogen werden können.

Die Kenntnis dieser typischen Mensch-Maschine-Interaktionen ist wesentlich für Fachkräfte, um damit in der Arbeitspraxis reflektiert umgehen zu können. Zentral ist dabei das Bewusstsein, dass die letztendliche Entscheidung immer bei den Fachkräften liegen muss. Für die Bestimmung der Zielperspektive beim Einsatz von KI-Tools ist zudem die Auseinandersetzung mit den zentralen Werten der jeweiligen Organisation bzw. jenen der Kinder- und Jugendarbeit grundlegend.

IT-Infrastruktur und Energieverbrauch

Viele generative KI-Tools sind in verschiedenen Nutzungsformen verfügbar, die unterschiedliche Kosten und Datenschutzniveaus bieten:

Direkte Web-Nutzung: Der einfachste Zugang ist oft kostengünstig oder kostenlos, bietet aber begrenzte Anpassungsmöglichkeiten und keine DSGVO-Konformität.
API-Nutzung: Die Einbindung über Programmierschnittstellen ermöglicht maßgeschneiderte Lösungen, erfordert aber technisches Know-how und verursacht nutzungsabhängige Kosten.
Cloud-Plattformen: Dienste wie Microsoft Azure mit OpenAI-Integration bieten DSGVO-konforme Umgebungen mit europäischen Rechenzentren und zusätzlichen Sicherheitsfunktionen, führen jedoch zu höheren Kosten.
Eigene Hardware: Der Betrieb von Open-Source-Modellen auf eigener Hardware bietet maximale Kontrolle über Daten und Prozesse, verursacht aber hohe Anschaffungs-, Wartungs- und Personalkosten.

Zusammengefasst ergibt sich ein Spektrum von einfachen, kostengünstigen Lösungen mit weniger Kontrolle bis hin zu komplexen, teureren Systemen mit voller Datenkontrolle. Die Wahl sollte basierend auf Datenschutzanforderungen, verfügbarem Budget, technischen Fähigkeiten und den spezifischen Anwendungsfällen getroffen werden. Für den nachhaltigen Einsatz von KI in der Sozialen Arbeit sollten auch Umweltaspekte wie der Energieverbrauch von KI berücksichtigt werden.

Rechtliche Aspekte

Datenschutz und DSGVO: Die DSGVO-Konformität von generativen KI-Tools ist differenziert zu betrachten:

Bei Standard-Webdiensten werden Nutzer:innereingaben häufig für Modellverbesserungen verwendet, was datenschutzrechtliche Bedenken aufwirft.
Spezielle Business-Versionen mit erweiterten Datenschutzeinstellungen können DSGVO-konform gestaltet werden.
Bei der API-Nutzung oder selbst gehosteten Modellen lässt sich ein höheres Datenschutzniveau realisieren.

Weitere wichtige rechtliche Aspekte:

Zweckbindung: Daten dürfen nur für Zwecke verwendet werden, denen zugestimmt wurde.
Urheberrecht: Bei KI-Systemen müssen urheberrechtliche Aspekte beachtet werden.
Transparenzpflicht: Es muss transparent gemacht werden, wenn Menschen mit KI-Systemen interagieren.
Haftung: Der AI Act der EU etabliert einen Risiko-basierten Ansatz zur Regulierung von KI. Anbieter:innen und Nutzer:innen von KI-Systemen tragen Verantwortung für deren Einsatz. Je nach Risikoeinstufung des KI-Systems gelten unterschiedliche Anforderungen und Haftungsregeln.

Die europäische Gesetzgebung zum Einsatz von KI entwickelt sich kontinuierlich weiter. Während der AI Act einen umfassenden Rahmen für die EU schafft, bleibt die internationale Harmonisierung eine Herausforderung. Für konkrete Anwendungsfälle empfiehlt sich die Beratung durch spezialisierte Jurist:innen.

Zitiervorschlag: Andrea Mayr, Christian Steiner, Sabine Klinger, Susanne Sackl-Sharif & Esther Brossmann-Handler (28.02.2025). KI in der Sozialen Arbeit. Potenziale und Herausforderungen. https://digitalesozialearbeit.github.io/ai-socialwork/ai-potentials-challenges