Bidflow: Store språkmodeller i en suveren norsk sky 

AI-tjenesten gjør at Bidflows kunder kan være trygge på at data er beskyttet og håndtert i samsvar med lover og regler.  

Store språkmodeller (LLM) har ført til en bølge av nye selskaper som tilbyr smarte tjenester bygd på kunstig intelligens. Trønderbedriften Bidflow er et godt eksempel. Selskapets tjeneste gir automatisk varsling på aktuelle anbud, hjelp til å analysere om de bør besvares, og bistand i utformingen av selve tilbudet.  
  
"Vi gjør det enkelt for kundene å velge anbudene som de har størst sannsynlighet for å vinne. Våre tjenester er nøyaktige, raske og gir bedre kontroll i salgsarbeidet", sier Theodor Mørck, daglig leder i Bidflow. Målet er å tilby den beste plattformen for anbudshåndtering. Først i Norge, så i Europa.   

Mørck startet selskapet sammen med teknologidirektør Stian Dyrnes. De har opplevd god respons i markedet.

"Anbudsprosesser er preget av store datamengder som er kompliserte å forholde seg til. En kunde fortalte at de kunne bruke opptil 100 timer på å finne ut om de skulle besvare enkelte anbud. Med Bidflow tok oppgaven fem minutter", sier Dyrnes.

Motoren i Bidflows løsning er en LLM. Av sikkerhetshensyn og på grunn av GDPR var det ikke aktuelt å bruke amerikanske løsninger som ChatGPT. Derfor valgte de Orange Business sitt tilbud LLM as a Service. Dette er en AI-klar infrastruktur som lar Bidflow kjøre store språkmodeller i en skytjeneste med datasuverenitet i Norge.

"Kundene må vite hvor deres data er, spesielt i dagens usikre geopolitiske landskap. I vårt lukkede miljø kjøres generativ kunstig intelligens i norske datasentre. Dette er spesielt viktig når vi skal vinne de store virksomhetene", sier Dyrnes.

For Bidflow var det tillitsvekkende med den tekniske troverdigheten og den lange erfaringen som Orange Business har i det norske markedet. 

"Vi gjør alltid en grundig utvelgelse av våre leverandører. Vi er nok mer nøye enn mange andre på sikkerhet", sier Mørck. 

Gründerne har tidligere jobbet som utviklere i store nasjonale prosjekter. De visste derfor at Orange Business var en aktør de kunne stole på.  At Bidflows store språkmodell tilbys fra en suveren sky gir forutsigbare kostnader, høyt sikkerhetsnivå og samsvar med gjeldende datalovgivning. Miljøet møter også kravene i standarder som ITIL, PCI-DSS, ISO 9001 og ISO 27001.  

Bidflow erfarte at det var raskt og smertefritt å komme i gang med tjenesten.  

"Vi spekket opp behovene i forhold til hvilke språkmodeller vi ønsket, og hastighetene vi trengte. Overgangen til Orange Business sin skytjeneste var smertefri", sier Mørck.  

Prosessen var ikke mer komplisert enn å legge inn en teknisk nøkkel og plotte inn en ny adresse, dermed var endringen gjort.  Deretter ble det lagt inn i koden hvilken tjeneste og modell som Bidflows løsning kjører på. Dyrnes er særlig positivt overrasket over hvor rask språkmodellen er i ny driftsløsning. Tjenesten genererer 15-30 ord i sekundet, noe som er langt raskere enn vi mennesker evner å lese.  

"Vår språkmodell er tre ganger raskere med Orange Business sin sky i bunn", sier Dyrnes.