Text: Ole Mygind, ansvarig för Zoom i norra Europa (Zoom är ett företag specialiserat på automatiserade arbetsflöden)
Artificiell intelligens har på bara några år gått från att vara en framtidsvision till att bli en självklar del av arbetsdagen. I dag används AI bland annat för att sammanfatta möten, skapa anteckningar, föreslå åtgärder och hjälpa medarbetare att få struktur i stora mängder komplex information. Men i takt med den snabba utvecklingen väcks en avgörande fråga: Vem bär egentligen ansvaret för hur AI används?
Alltför ofta reduceras debatten till en fråga om reglering eller hur användare ska agera. Men ansvaret börjar långt tidigare – hos oss som utvecklar tekniken.
Som leverantör av AI-baserade samarbetsverktyg är vi på Zoom med och formar hur människor arbetar, kommunicerar och fattar beslut. Därför räcker det inte att enbart leverera funktionalitet. Vi måste också ta ansvar för de etiska principer och ramar som omger tekniken.
Användare måste få full kontroll över sin data
När en algoritm sammanfattar ett möte, lämnar beslutsförslag eller föreslår åtgärder blir den samtidigt en del av organisationens kunskapsbas. Därför är det avgörande att användarna förstår hur tekniken fungerar och hur den används på ett effektivt sätt.
Alltför många AI-utvecklare arbetar fortfarande i slutna system där kunderna saknar full insyn och kontroll över sin egen data. Det är problematiskt. Utvecklare måste ha tydliga principer för datasäkerhet, integritet och transparens kring hur AI-funktioner fungerar och hur de gör sina rekommendationer. Samtidigt måste användare ges möjlighet att styra, redigera eller välja bort automatiserade funktioner. AI ska fungera som ett stöd för människan – inte som en auktoritet som fattar beslut utan insyn eller möjlighet att ifrågasätta.
En av de största riskerna med AI i arbetslivet är att vi börjar betrakta AI-genererade analyser eller rekommendationer som objektiva sanningar, trots att de bygger på modeller, data och antaganden som användarna själva varken kan granska eller förstå fullt ut.
Därför behöver AI-leverantörer ta ett större ansvar för att förklara hur systemen fungerar och säkerställa att människor löpande kan förstå, granska och korrigera AI:ns rekommendationer. Det måste också vara tydligt att det yttersta ansvaret för de beslut som fattas alltid ligger hos människan, inte hos tekniken.
I praktiken innebär det att organisationer måste ha full kontroll över sin data och att användare alltid ska kunna välja bort AI-funktioner när det behövs. Jag hoppas därför att beslutsfattare i företag och organisationer väljer AI-partners som prioriterar transparens, säkerhet och användarnas ägarskap över sin egen data.
Tillit är den avgörande konkurrensfaktorn
Under de kommande åren kommer AI att bli en central del av i princip alla digitala samarbetsverktyg. Men det är inte tekniken i sig som blir avgörande. Det är tillit.
Företag och offentliga verksamheter kommer i allt högre grad att välja teknikpartners utifrån hur de hanterar data, transparens och en ansvarsfull användning av AI. Med andra ord kommer det inte längre att räcka med vad tekniken kan göra – även hur den är utvecklad, styrd och kontrollerad blir avgörande.
AI kan frigöra tid, stärka samarbeten och göra arbetet mer effektivt. Men bara om tekniken utvecklas med respekt för de människor som använder den. Ansvarsfull AI handlar i slutändan inte främst om avancerade algoritmer. Det handlar om att utvecklare har fattat genomtänkta beslut om hur algoritmerna ska fungera i världen – och att AI-verktygen erbjuder sina användare full transparens.
