AI-assistent eller AI-agent – vad är skillnaden?

En assistent svarar och föreslår. En agent kan planera flera steg och använda verktyg för att genomföra dem. Skillnaden kan låta enkel, men den får stora konsekvenser för behörighet, testning och ansvar.

Många organisationer behöver inte den mest självständiga lösningen. De behöver rätt grad av handlingsförmåga för en tydligt avgränsad uppgift. Ju mer systemet får göra, desto större blir kraven på stoppunkter, loggning och mänskligt godkännande.

Fyra begrepp som ofta blandas ihop

Chatt beskriver främst gränssnittet. Användaren skriver en fråga och får ett svar. Bakom chatten kan det finnas allt från en generell språkmodell till en behörighetsstyrd lösning med verksamhetens egna källor.

AI-assistent stödjer en användare inom ett avgränsat område. Den kan söka, sammanfatta, skapa utkast och föreslå nästa steg, men användaren förväntas normalt granska och besluta.

AI-agent får ett mål och kan planera eller genomföra flera delsteg. Den kan exempelvis hämta information, anropa ett system, skapa ett underlag och lämna ett resultat. Agentens handlingsutrymme beror på vilka verktyg och behörigheter den får.

Traditionell automation följer förutbestämda regler och flöden. Den är ofta bäst när processen är stabil, indatan strukturerad och utfallet ska vara deterministiskt.

Begreppen beskriver inte en strikt teknisk standard. Två leverantörer kan kalla liknande funktioner för olika saker. Kravställ därför vad lösningen får läsa, bedöma och utföra – inte vilket namn den har.

Vad gör en AI-assistent?

En assistent passar när en människa leder arbetet och behöver snabbare tillgång till information eller ett första utkast. Den kan exempelvis:

• svara på frågor utifrån interna dokument

• sammanfatta en rapport med källhänvisningar

• jämföra två avtal och markera skillnader

• skapa ett utkast till ett kundsvar

• föreslå klassificering eller prioritet för ett ärende

Värdet ligger ofta i att minska sök- och förberedelsetid. Användaren behåller kontrollen över vad som skickas, beslutas eller publiceras. Det gör lösningen lättare att införa i uppgifter där kvaliteten behöver bedömas i ett sammanhang.

En assistent är ändå inte riskfri. Den kan få tillgång till fel källa, formulera ett felaktigt svar eller återge känslig information. Behörighet, testning och loggning behövs även när systemet inte utför åtgärder.

Vad gör en AI-agent?

En agent kopplar språkmodellens resonemang till verktyg. Den kan välja nästa åtgärd utifrån ett mål och resultatet från föregående steg. En agent för ett supportflöde kan till exempel identifiera ärendet, hämta kunduppgifter, föreslå lösning, skapa ett svar och förbereda en uppdatering i ärendesystemet.

Det centrala är inte att agenten ”tänker själv”, utan att den får välja mellan tillåtna handlingar. Varje verktyg bör ha ett tydligt kontrakt: vilken data det kan läsa, vad det kan ändra, vilka parametrar som är tillåtna och när ett mänskligt godkännande krävs.

Riskbilden växer när fel kan få konsekvenser utanför chatten. Ett felaktigt textsvar kan korrigeras innan det används. En felaktig systemändring, beställning eller extern kommunikation kan vara svårare att återställa.

Ju mer en lösning får göra, desto tydligare måste ansvar, behörighet och stoppunkter vara.

När räcker vanlig automation?

Om varje steg kan beskrivas med stabila regler är vanlig automation ofta mer robust och billigare att förvalta. En faktura med rätt format kan skickas genom ett fast valideringsflöde. Ett formulär kan skapa en uppgift enligt kända villkor. En integration kan överföra data utan att en språkmodell tolkar den.

Generativa komponenter är relevanta när indatan är ostrukturerad eller varierande, till exempel e-post, fria texter och dokument. Ett bra system kan kombinera metoderna: modellen tolkar eller föreslår, medan regler kontrollerar format, belopp, behörighet och slutlig åtgärd.

Den kombinationen minskar beroendet av modellens fria utdata. OWASP pekar på att osäker hantering av modellens utdata kan skapa sårbarheter när text används som instruktion till andra system.[1] Output bör därför behandlas som opålitlig indata tills den har validerats.

Skillnader i åtkomst och ansvar

En chatt behöver vanligen läsrättighet till en begränsad informationsmängd. En assistent kan dessutom behöva skapa utkast eller spara arbetsmaterial. En agent kan behöva skriva till affärssystem, starta processer eller kommunicera externt.

Ge inte agenten en gemensam teknisk identitet med bredare åtkomst än användarna. Använd minsta möjliga behörighet, separera verktyg efter risk och låt åtkomsten följa den användare eller tjänsteroll som utför uppgiften.

Ansvar behöver definieras på tre nivåer:

• verksamhetsägaren ansvarar för ändamål, mätetal och tillåtna användningsfall

• systemägaren ansvarar för konfiguration, integrationer och förvaltning

• användaren ansvarar för de kontroller och godkännanden som ingår i rollen

Leverantörens ansvar måste framgå i avtal, men verksamheten kan inte avtala bort sitt eget ansvar för hur lösningen används.

När behövs mänskligt godkännande?

Mänskligt godkännande bör placeras före handlingar med hög konsekvens, låg återställbarhet eller otydligt underlag. Exempel är betalningar, avtal, beslut om en person, publicering, radering och ändringar i verksamhetskritiska system.

Godkännandet ska visa vad agenten tänker göra och vilket underlag den använde. En knapp med ”godkänn” ger liten kontroll om användaren inte kan förstå konsekvensen.

Automatisering utan manuellt godkännande kan vara rimlig för låg-riskåtgärder med tydliga gränser, god testtäckning och möjlighet att snabbt stoppa eller rulla tillbaka. Beslutet bör dokumenteras och omprövas när flödet förändras.

Exempel på rätt nivå för olika uppgifter

Svara

En intern chatt hittar en rutin och visar källan. Passar en assistent.

Föreslå

Systemet föreslår kategori och svar på ett inkommande ärende. En människa väljer och skickar.

Förbereda

En agent hämtar data från flera system och skapar ett komplett underlag, men får inte registrera beslutet.

Utföra

En agent uppdaterar ett system efter validering och godkännande. Kräver tydliga verktygsgränser, loggning och möjligheten att återställa.

Automatisera

Ett regelstyrt flöde gör samma kontroller varje gång och skickar endast avvikelser till en handläggare.

Så väljer ni rätt nivå

Ställ frågorna i ordning:

1. Behöver lösningen bara hitta och formulera information?

2. Behöver den föreslå ett beslut eller nästa steg?

3. Behöver den förbereda en åtgärd i ett annat system?

4. Behöver den utföra åtgärden utan godkännande?

För varje ja, dokumentera data, behörighet, konsekvens vid fel, mänsklig kontroll och återställning. Börja med den lägsta nivå som kan skapa värde. Lägg till handlingsförmåga först när kvaliteten är testad och ansvaret är tydligt.

NIST rekommenderar att risker med generativa system bedöms över hela livscykeln och i den faktiska användningskontexten.[2] Det talar för gradvis införande: först stöd, sedan kontrollerad handling där det finns ett bevisat behov.

Checklista innan ni ger en agent verktyg

• Är målet och de tillåtna handlingarna exakt definierade?

• Använder varje verktyg minsta möjliga behörighet?

• Valideras modellens utdata innan ett systemanrop?

• Kräver oåterkalleliga eller känsliga handlingar godkännande?

• Visas underlag och konsekvens tydligt för den som godkänner?

• Loggas både förslag, verktygsanrop och resultat?

• Finns beloppsgränser, frekvensgränser och stoppfunktion?

• Kan en felaktig åtgärd återställas?

• Testas flödet mot manipulerad indata och oväntade svar?

• Finns namngiven ägare efter lansering?

Källor

1. OWASP, Top 10 for LLM and GenAI Applications:
   https://genai.owasp.org/

2. NIST, Generative AI Profile:
   https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence

3. Europeiska kommissionen, AI Act:
   https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai