Når AI er selve systemet

01 Alle sier AI

Det er blitt lett å si at et produkt bruker AI. Det kan bety nesten hva som helst. En chatbot i hjørnet. Et søkefelt som svarer litt smartere enn før. En knapp som oppsummerer en rapport. Alt dette kan være nyttig, men det sier lite om hvorvidt systemet faktisk er bygget for å forstå det brukeren står i.

I brannsikkerhet er den forskjellen avgjørende.

Et bygg er ikke en løs tekststreng.

Det har historikk, bruk, tegninger, tekniske anlegg, brannkonsept, leverandører, roller, avvik og tiltak som må ses i sammenheng. Når en bruker spør hva som gjelder, er ikke det beste svaret nødvendigvis en pen forklaring. Ofte er det viktigere å vite hvilket dokument svaret bygger på, hvem som har ansvar, hva som er bekreftet, hva som mangler, og hva som bør gjøres videre.

02 Et lag på toppen, eller bygget rundt forståelse

Det er her skillet mellom et AI-lag og et AI-native system blir tydelig. Et AI-lag legges på toppen av et eksisterende produkt. Det kan lese, skrive, forklare og foreslå. Men hvis resten av systemet ikke vet hva som er et avvik, hva som er en oppgave, hvilken rolle brukeren har, eller hvilket faglig grunnlag som er styrende, blir AI-en fort en flink assistent uten nok kontekst.

Et AI-native system starter et annet sted. Det bygges rundt at informasjon skal forstås, kobles og brukes. AI-en skal ikke bare svare. Den skal hjelpe FireHub å forstå dokumentasjonen, koble informasjonen til riktig sammenheng, finne det som mangler og foreslå hva som bør følges opp videre, og vise hva som må bekreftes av mennesker eller fagpersoner. OECD beskriver et AI-system som et maskinbasert system som, ut fra input, kan generere for eksempel anbefalinger, beslutningsgrunnlag eller innhold som kan påvirke digitale eller fysiske miljøer. Det er en nyttig definisjon, men i sikkerhetsdomenet er det bare starten på spørsmålet.

En generell språkmodell kan mye om språk, og den kan godt kjenne begrepet brannkonsept. Men den kjenner ikke av seg selv det konkrete bygget: hvilket dokument som er styrende, hvem som er eier og hvem som er bruker, og hva som faktisk er status. FireHub utvikler egen domenespesifikk AI for brannforebygging og rolleforståelse.

03 Et sannsynlig svar er ikke et faktum

Et dokument er dokumentasjon om virkeligheten.

Det er ikke nødvendigvis virkeligheten slik den ser ut akkurat nå.

DokumentasjonenFørste etasje er tegnet og beskrevet som næringslokaler.

Bygget i dagNæringslokalene er bygget om og brukes som leiligheter.

Bruksendring må avklares

Behov for avklaring

Tegningene viser næringslokaler i første etasje. Dagens bruk er oppgitt som leiligheter. FireHub finner ikke dokumentasjon som avklarer om bruksendringen er tillatt.

Neste steg: Etterspør byggesak og eventuell tillatelse til bruksendring.

At noen har skrevet at arbeid er utført, er ikke nødvendigvis det samme som dokumentert lukking.

At informasjon mangler, betyr ikke nødvendigvis at det fysiske forholdet mangler.

Og at en AI finner en sannsynlig sammenheng, gir den ikke faglig eller juridisk myndighet.

Derfor bruker vi et enkelt prinsipp:

Evidence before assertion.

Evidens før påstand.

For når anbefalinger kan påvirke hvordan et bygg følges opp, må systemet tåle mer enn gode formuleringer. Det må skille mellom generelle råd og konkret grunnlag. Det må vite forskjellen på en rutine som er dokumentert, en rutine som bare er antatt, og en rutine som burde vært fulgt opp for lenge siden. Det må også gjøre det tydelig når noe er usikkert.

FireHub skal heller vise usikkerhet enn å skape falsk sikkerhet.

Det som er ukjent, skal fortsatt være ukjent.

Det som må avklares, skal være synlig som uavklart.

Og når en faglig vurdering er nødvendig, skal ikke teknologien late som den kan erstatte den.

04 FireHub godkjenner ikke bygg

Det er derfor FireHub ikke skal fremstå som en AI som «godkjenner» bygg. Det ville vært feil retning. FireHub skal heller være et system som gjør grunnlaget synlig, organiserer arbeidet og hjelper mennesker å ta bedre beslutninger. Branningeniørens vurdering, brannkonseptet, dokumentasjonen og de praktiske forholdene i bygget må fortsatt ha sin plass. AI-en skal støtte dette hierarkiet, ikke late som det ikke finnes.

FireHub foreslår. Mennesker bekrefter.

Det som foreslås, kan bekreftes, rettes eller avvises av den som har ansvaret.

05 Når systemet ikke vet

Det gjør også brukeropplevelsen annerledes. I tradisjonell programvare må mennesker lære seg hvor ting ligger. I et AI-native system bør de kunne spørre, forklare, laste opp og bekrefte. Systemet bør kunne si:

• Dette har vi.Dokumentert
• Dette mangler.Mangler
• Dette er uklart.Uklart
• Dette bør du sjekke med fagperson.Krever vurdering
• Dette er neste naturlige steg.Neste steg

For FireHub handler AI derfor ikke om å gjøre brannsikkerhet magisk. Det handler om å gjøre den mer sporbar, mer forståelig og lettere å følge opp. I en bransje der mye ansvar ligger hos mennesker som ikke er branneksperter, kan det være forskjellen på at dokumentasjon bare finnes, og at dokumentasjonen faktisk blir brukt.