Bidflow: Stora språkmodeller i suveränt moln

AI-tjänsten gör det möjligt för Bidflows kunder att vara säkra på att data skyddas och hanteras i enlighet med lagar och förordningar.

Storskaliga språkmodeller (LLM) har lett till en våg av nya företag som erbjuder smarta tjänster byggda på artificiell intelligens.Trønderbaserade Bidflow är ett bra exempel. Företagets tjänst ger automatisk avisering om aktuella anbud, hjälp med att analysera om de bör besvaras och hjälp med att utforma själva anbudet.  
  
"Vi gör det enkelt för kunderna att välja de anbud som de har störst chans att vinna. Våra tjänster är exakta, snabba och ger bättre kontroll i försäljningsprocessen", säger Theodor Mørck, VD för Bidflow. Målet är att erbjuda den bästa plattformen för anbudshantering. Först i Norge, sedan i Europa.   

Mørck startade företaget tillsammans med Stian Dyrnes, Chief Technology Officer. De har upplevt ett bra gensvar på marknaden.

"Anbudsprocesser kännetecknas av stora mängder data som är komplicerade att hantera. En kund berättade för oss att de kunde spendera upp till 100 timmar på att besluta om de skulle svara på vissa anbud. Med Bidflow tog det fem minuter", säger Dyrnes.

Motorn i Bidflows lösning är en LLM. Av säkerhetsskäl och på grund av GDPR var det inte lämpligt att använda amerikanska lösningar som ChatGPT. Därför valde de Orange Business LLM-as-a-Service-erbjudande. Detta är en AI-klar infrastruktur som gör det möjligt för Bidflow att köra stora språkmodeller i en molntjänst med datasuveränitet i Norge.

"Kunderna behöver veta var deras data finns, särskilt i dagens osäkra geopolitiska landskap. I vår slutna miljö körs generativ artificiell intelligens i norska datacenter. Detta är särskilt viktigt när det gäller att vinna de stora affärerna", säger Dyrnes.

För Bidflow var den tekniska trovärdigheten och den långa erfarenheten som Orange Business har på den norska marknaden betryggande.

"Vi gör alltid ett noggrant urval av våra leverantörer. Vi är nog mer försiktiga än många andra när det gäller säkerhet", säger Mørck. 

Grundarna har tidigare arbetat som utvecklare i stora nationella projekt. Att Bidflows stora språkmodell erbjuds från ett suveränt moln ger förutsägbara kostnader, en hög säkerhetsnivå och efterlevnad av gällande datalagstiftning. Miljön uppfyller också kraven i standarder som ITIL, PCI-DSS, ISO 9001 och ISO 27001.

Bidflow tyckte att det gick snabbt och smärtfritt att komma igång med tjänsten.  

"Vi specificerade våra behov när det gäller vilka språkmodeller vi ville ha och vilka hastigheter vi behövde. Övergången till Orange Business molntjänst var smärtfri", säger Mørck.  

Processen var inte mer komplicerad än att ange en teknisk nyckel och plotta en ny adress, så ändringen gjordes.  Sedan angavs den tjänst och modell som Bidflows lösning körs på i koden. Dyrnes är särskilt positivt överraskad över hur snabb språkmodellen är i den nya driftslösningen. Tjänsten genererar 15-30 ord per sekund, vilket är långt snabbare än vad vi människor kan läsa.  

"Vår språkmodell är tre gånger snabbare med Orange Business moln i bakgrunden", säger Dyrnes.