Vier Fragen und Antworten zu Generative AI und Non-Profits

In unseren Gesprächen mit Verantwortlichen im NGO- und Kultursektor sind die Fragen bezüglich generativer Künstlicher Intelligenz und Large Language Models (LLM) immer die gleichen:

Anfang 2024 lassen sich diese Fragen folgendermassen beantworten:

A. Was können wir jetzt mit der Technologie anfangen und was sollten wir bleiben lassen?

Derzeit sollte die Technologie nur in internen Prozessen eingesetzt werden und nur mit äusserstem Bedacht in der unmittelbaren externen Kommunikation. Die Aussenwirkung – etwa der Einsatz von KI-generiertem Bildermaterial – birgt derzeit kaum einschätzbare Risiken. Denn es gibt ungeklärte Urheberrechtsaspekte – bei Bildern, aber auch Texten, mit denen die LLM trainiert wurden. Zudem besteht weiterhin das Problem der „Halluzinationen“ – die Modelle erfinden Fakten. Das lässt sich zwar mittlerweile besser in den Griff bekommen (etwa durch Verfahren wie Retrieval Augmented Generation, RAG oder ein grösseres "context window"). 

Dennoch ist ein Einsatz – etwa eines Chatbots, mit dem User sich über Themen oder Dienstleistungen austauschen können – derzeit nicht ratsam. Denn es ist schwer, alle möglichen Chat-Szenarien im Vorhinein durchzutesten. 
Schliesslich stellen sich auch Fragen zur Nachhaltigkeit (Energieverbrauch)  – oder Arbeitsbedingungen von Clickworkern im Training von KI. Aus Reputationssicht ist hier also Behutsamkeit angeraten. Der vermeintlich einfache Verweise auf Open Source-Lösungen, die man einsetzt, sind hier nicht ausreichend, weil die Lizenzform nicht Bedenken über problematischen Herstellungsweisen beim Aufbau des Sprachmodells klärt. Es ist denkbar, dass sich in den nächsten ein bis zwei Jahren anerkannte ethische Standards im praktischen Einsatz von Generative AI (GenAI) im Advocacy- und non-profit Sektor ausformen werden.

Wenig spricht dagegen, schon jetzt zu beginnen, GenAI im Sinne von Assistenz in allen möglichen internen Kommunikations- und Produktionsprozessen einzubinden: Die Zusammenfassungs- und Analysefähigkeiten der kommerziellen LLM-Technologie von OpenAI oder Google/Alphabet sind in allen Bereichen von Wissensmanagement einsetzbar. Open Source-Sprachmodelle wie von Mistral sind qualitativ noch auf einem niedrigeren Niveau, etwa hinsichtlich von Kontextualisierung und Argumentationsfähigkeit. Doch in den kommenden 12 Monaten sollten sie den Standard von Open AI’s GPT4 (derzeitiger Marktführer) erreichen – nicht zuletzt durch die massiven Investitionen von Meta/Facebooks, das eine Open Source-AI Strategie fährt oder auch Googles "Gemma".

Die multimodalen Fähigkeiten von GenAI – Text, Audio, Bild, Video sichten und beschreiben zu können – ermöglicht etwa das Erschliessen unstrukturierter Archivbestände, egal ob in Schrift, Bild oder Ton. Auch Abläufe wie Protokollführung, Co-Moderation von Treffen oder Terminkoordination lassen sich automatisieren. Zudem können LLMs in der Vorbereitung von Social Media-Posts eingesetzt werden, in Konzeptions- und Planungsphasen, bei Transkriptionen und Übersetzungen. Für diese genannten Felder beginnt sich eine Palette von Diensten und Lösungen zu etablieren, die unterschiedlichen Ansprüchen an Datensicherheit und Unabhängigkeit von grossen Tech-Konzernen genügen können.

B. Wie beginnen wir mit dem Einsatz in unserer Institution oder Organisation?

Auf der Leitungsebene sollte eine KI-Strategie entwickelt werden, deren Grundsätze auch an die Mitarbeiter:innen kommuniziert wird. Etwa ist denkbar, ein:e Beauftragt:en zu benennen oder ein Steuerungsgremium zu etablieren. Prinzipiell ist zu raten, den Einsatz von GenAI zu ermutigen und zu fördern. Es ist davon auszugehen, dass einige Mitarbeiter:innen bereits mit KI-Tools arbeiten oder sie zumindest auszuprobieren. Hier sollte Klarheit geschaffen werden, in welchen Bereichen in der Organisation KI-Einsatz als zulässig gilt und wo nicht.

Abgesehen vom Umfang des Gesamtteams und des thematischen Feldes, in der eine Organisation operiert, spielt ein Faktor eine wesentliche Rolle: Gibt es innerhalb des Hauses/Teams bereits Kompetenzen und Zuständigkeiten für IT-Verfahren und Vorhaben? Ist dies nicht der Fall und werden IT-Dienstleistungen & Co von Dritten eingekauft, ist zu empfehlen, eine oder mehrere Personen Zeitbudgets einzuräumen, um sich praktisch mit Generative AI befassen zu können. Neben dem Schaffen von Spielwiesen sind zudem entsprechende Trainings und Fortbildungen in Betracht zu ziehen. Und nicht zuletzt sollten Verfahren etablieren werden, um das neue Know-how dann in die Gesamtorganisation einfliessen zu lassen und in der Organisationskultur zu verankern.

Mittelfristig dürften neue Berufsbilder entstehen, die – angelehnt an die Legal Engineers bei Automatisierung im juristischen Sektor (Legal Tech) – als Advocacy Engineers bezeichnet werden könnten: Personen, die sowohl über ausgeprägte Kenntnisse des Themengebiets, das Umfeld sowie die Prozesse der eigenen Organisation verfügen als auch über ein solides Verständnis von Informationstechnologien. In der journalistischen Branche wird diese Schnittstellenfunktion meist durch Datenjournalist:innen abgedeckt. Diese Kombination aus Domänen- und Fachwissen sowie technologischem Know-how können Dienstleister von aussen in der Regel nicht leisten. Der Mangel an solchen Kompetenzen inhouse dürfte sich durch die rasante Entwicklung bei GenAI auf Dauer als Hemmschuh als auch kostenträchtiger Faktor erweisen.

Jedenfalls sollte klein angefangen werden. Etwa könnte erst einmal die gesamten internen Prozessketten und Arbeitsabläufe darauf abgeklopft werden, welche „low hanging fruits“ sich für den Einsatz von Generativer KI anböten: Gibt es Vorgänge, die recht repetitiv und anspruchslos sind, aber dennoch mit einigem Aufwand durch menschliche Arbeit per digitalen Tools immer wieder erledigt werden müssen? Möglicherweise kann hier GenAI helfen. Durch überschaubare und klar abgrenzbare Projekte können erste Schritte gemacht und daraus gelernt werden.

C. Inwiefern könnte unser Finanzierungsmodell und generell unsere Organisation davon entscheidend berührt werden?

Je mehr die Finanzierungsweise eines non-profit Unternehmens, einer Kultureinrichtung etc. unmittelbar im Zusammenhang mit digitalen Prozessen steht, um so grösser dürften die Auswirkungen von GenAI auf die Wirkung der eigenen Organisation sein.

Insofern empfiehlt es sich, alle eigenen Abläufe und Zusammenspielarten mit Dritten systematisch darauf abzuklopfen, welche digitalen Verfahren hier auf welche Weise wesentlich sind. Die Ergebnisse dieser Erhebung sollte dann danach priorisiert werden, wie entscheidend sie für das eigene Finanzierungsmodell sind. Schliesslich könnte solch eine Prioritätenlisten einer SWOT-Analyse unterzogen werden. Welche „Strengths, Weaknesses, Opportunities, Threaths“ ergeben sich durch GenAI jeweils?

Beispielsweise besteht für eine Organisation, die massgeblich Spender:innengelder über Online-Kanäle aufgrund von Kampagnen im Web/auf Social Media gewinnt, folgende Bedrohung durch GenAI: Althergebrachte Vertriebswege wie Suchmaschinen, Online-Anzeigen oder eben Social Media könnten durch neuartige Weisen im Publizieren und bei der Medienkonsumption obsolet werden. Beispielsweise, wenn AI-Companions als neue Gatekeeper den Zugang zum eigentlichen Menschen versperrt oder zumindest erschwert.

Welche Auswirkungen darüber hinaus Künstliche Intelligenz-Software auf eine Organisation hat, ist entsprechend abhängig von dem Digitalisierungsgrad der eigenen Arbeitsweise und Prozesse. Gewiss wird sich GenAI auf Berufsbilder, Rollen und Zusammenarbeit intern und extern auswirken. Möglicherweise erlaubt die neue Technologie, Institutionen und Organisationen bestimmte Bereiche ihres Wirkens und Verfahren schneller und günstiger zu digitalisieren als bisher absehbar. Gleichzeitig kann dies aber innerhalb von Teams zu Verwerfungen führen, wenn nicht alle Kolleg:innen bereits sind, solch einen Transformationsprozess mitzugehen und mitzugestalten. Eine reine Implementierung von technischen Verfahren und Produkten ohne begleitende Organisationsentwicklung ist nicht ratsam.

D.Welche möglichen Szenarien für die nähere Zukunft sind zu erwarten?

Als sicher kann gelten, dass auf der Seiten der Produktion von digitalem Content und Softwareprogrammierung Generative AI einen festen Platz im Sinne von Assistenz und Automatisierung findet. Auch diverse Prozesse von Organisations- und Büroabläufen, zum Beispiel Customer Relation Management (CRM), Personalwesen, Wissensmanagement, Koordination, Routinekommunikation und Buchhaltung, werden sich immer besser, einfacher und günstiger automatisieren lassen.

Weiterhin unklar ist, welche Auswirkungen GenAI auf die Konsumption von digitalen Inhalten hat. Also wie die neue Technologie sich in aller Alltagsumgang mit Smartphones und Desktop-/Laptops niederschlagen wird. Entstehen hier neue Plattformen, AI-Apps als neue Kanäle, werden Voice-Interfaces wichtig, verlieren klassische Suchmaschinen und Websites an Relevanz? Diese Fragen sind entscheidend für viele NGOs, Kultureinrichtungen etc., die darauf angewiesen sind, ihre Botschaften und Angebote digital zu kommunizieren.

Chat-Interfaces wie ChatGPT sind wohl noch nicht die Killer-Anwendung von Generative AI. Dagegen dürfte Smartphones mit ihren Betriebssystemen eine entscheidende Rolle zukommen, denn sie können diese Technologie als Zwischenschicht in jegliche Interaktion des Users mit dem Gerät und all seiner Software einziehen. So wird erwartet, dass der Tech-Konzern Apple diesen Sommer auf seiner Entwicklerkonferenz darlegt, wie es LLM in die Funktionalität seines „iOS“  integriert wird. Das dürfte auf jeden Fall ein klareres Bild davon liefern, wohin die Reise gehen könnte. Allerdings dürfte es noch bis mindestens kommendes Jahr dauern, bis dann auch deutlich ist, ob und auf welche Weise Nutzer:innen Generative AI in ihren Alltag integrieren wollen.