Undervejs i en demo for Interakt (en AI platform) for lidt siden, var der en som stillede mig et spørgsmål, der fik mig til at stoppe midt i en sætning.
"Hvis vi forbinder denne AI platform med vores data, og giver vores brugere et chat-vindue, hvad stopper dem så i at spørge om alle vores forretningshemmeligheder?"
Min første tanke? At forsikre dem.
Men så tænkte jeg over det. Det var slet ikke forkert af dem at spørge.
Der er en version af dette, som kan bygges dårligt.
Hvor AI forbindes bredt med data, og ja, en nysgerrig bruger eller en med skumle bagtanker kan stykke nogle ting sammen, de aldrig skulle være i stand til at se.
Bekymringen er valid. Hvis nogle bygger et AI chat interface og integrerer det direkte med en database uden grundig adgangskontrol, uden at scope hvilke data AI'en må bruge, uden at filtrere hvad den tilgår, ja, så er frygten helt og aldeles forståelig.
Der er dog også en version af dette, som er bygget korrekt.
De fleste virksomheder har brugt flere år på at bygge forretningslogik ind i deres API-lag.
Authentication, tilladelser, regler om hvem der må se hvad. Et velbygget AI interface respekterer alt dette.
Det forbinder ikke direkte med din database og giver brugere en universalnøgle. Det kalder dine API'er på samme måde som andre dele af dit system, hvilket betyder, at det opererer inden for de samme regler og barrierer, du allerede har defineret.
Det samme gælder for hvad AI'en faktisk ved. I stedet for at give adgang til hele molevitten og krydse fingre for at den opfører sig ordentligt, så vil gode implementeringer scope vidensbasen bevidst. I skal definere hvad AI'en kan bruge af data. Således kan den ikke besvare spørgsmål, der ligger uden for det scope, for i AI'ens bevidsthed eksistererer det slet ikke.
Et emne der har igangsat en masse snakke den seneste rum tid er MCP-servere. Model Context Protocols, der tillader AI's at forbinde til værktøjer og datakilder på en dynamisk måde. Også her er bekymringen forståelig.
MCP-servere er spændende fordi de netop fjerner friktion. Du kan forbinde AI til nærmest alt på meget kort tid. Men den mulighed er også en stor risiko.
En dårligt konfigureret MCP med løst definerede tilladelser kan give en AI langt mere adgang til dine systemer end tiltænkt. Her er svaret det samme. Giv kun AI adgang til det, den har brug for i målet om at klare dets opgave. Ikke mere end det.
Spørgsmålet der blev stillet i den demo var et af de klogeste ting, jeg havde hørt den uge. Ikke fordi risikoen er uundgåelig, men fordi det er det helt rigtige at spørge om før man starter med at bygge.
Diskussion om sikkerhed i ens arkitektur bør finde sted før den første linje af kode er skrevet - ikke efter.
Hvilke data kan AI få adgang til?
Gennem hvilket lag?
Hvad er formålet og hvem skal være i stand til at se det?
Få styr på de svar i første omgang. Udviklingen er den lette del.
