Vad händer när vem som helst kan kalla sig systemutvecklare över en natt?
AI gör det möjligt att bygga digitala tjänster snabbare än någonsin. Det öppnar fantastiska möjligheter. Men det sänker också tröskeln för att sälja system som man saknar kompetens att ta ansvar för.
En snygg hemsida, en övertygande demonstration och stora löften kan ge bilden av ett etablerat IT-bolag. Bakom kulisserna kan det finnas en enda person som byggt hela lösningen med ett AI-verktyg, utan kunskap om IT-säkerhet, databaser eller långsiktig förvaltning.
Att vara ensam utvecklare är inget problem i sig. Att använda AI är heller inget problem. Att sälja ett verksamhetskritiskt system utan att förstå riskerna är däremot ett allvarligt problem.
För vad händer när kundens data försvinner? När känsliga uppgifter blir åtkomliga för fel personer? När systemet slutar fungera och leverantören inte vet hur det ska repareras?
Det är kunden som får bära konsekvenserna. Företag som lämnar över sin information och sina arbetsflöden kan bli oerhört sårbara, utan att ens förstå vilka risker de har tagit.
Och skadan kan bli större än ett enskilt haveri. Varje dålig erfarenhet riskerar att urholka förtroendet för digitala tjänster och få fler svenska företag att tveka inför att digitalisera sin verksamhet.
Vi behöver ställa högre krav på dem som säljer systemen:
Hur skyddas informationen?
Kan säkerhetskopiorna återställas?
Vem ansvarar för underhåll och incidenter?
Vad händer om personen bakom tjänsten försvinner?
AI kan hjälpa oss att skriva kod. Men en fungerande demo är inget bevis på ett säkert och hållbart system.
När det blir enklare att bygga måste vi bli bättre på att granska.
Kundernas förtroende får aldrig bli priset för någon annans snabba affär. 💔