Frederik Wouters
Vorige week bezochten we de World Summit AI in Amsterdam. Het lijkt erop dat ik niet de enige ben die enthousiast is over AI. Het was geweldig om omringd te zijn door enthousiaste mensen (die waarschijnlijk slimmer zijn dan ik). Veel grote namen en interessante statistieken en discussies op deze conferentie.
Ik denk dat de meest interessante demo de Groq-keynote van Mark Heaps was.
Niet alleen was het goed voorbereid en razendsnel, maar het werd ook goed gebracht. Het was jammer dat het scherm de hele tijd wegviel en dat het geluid haperde. Dit wierp echt een schaduw over een verder echt goeie demo.
Decathlon zet AI reeds in op meerdere plaatsen.
80 procent van de suggesties op de site van Decathlon zijn gepersonaliseerd.
Ze hebben een AI die voorspeld hoeveel van welke producten naar waar moeten geleverd worden. Hierdoor hebben ze sinds 2023 met hun vrachtwagens 1.65 milioen minder kilometers moeten rijden. Dit vond ik een interessant weetje.
Het motto bij Decathlon was "Start small, Scale fast".
Ze focussen ook op het industrialiseren van hun AI producten om zo het vertrouwen van de business te krijgen. Op die manier wordt de business automatisch ambassadeur van hun toepassingen. Niet toevallig is dit ook een deel van de visie van The Digitals (moederbedrijf van Calibrate). Check ons charter.
AWS voorzag een workshop om kennis te maken met AWS Bedrock. Voor we er in doken toch nog wat theorie en voorspellingen van AWS.
Ik denk dat dit wel eens zou kunnen kloppen.
Ze legden zo ook uit wat het verschil is tussen finetuning en continued pretraining.
Voor finetuning hebben we een kleinere hoeveelheid gelabelde data nodig, en voor continued pre-training hebben we grote hoeveelheden ungelabelde data nodig.
Er werd ook melding gemaakt van AWS APP builder, dit zou een applicatie zijn om snel zonder kennis van code ai powered applicaties te maken.
Het was ook een uitstekende gelegenheid om kennis te maken met de juiste mensen van Microsoft, Canonical (Andreea Munteanu), Sopra Steria, EY (Raf Ganseman).
We hadden ook een leuk restaurantbezoek en avondactiviteit met de mensen van
Vectr.Consulting (Jony Van Puymbroeck & Tom Franckx)
Tensr (Bruno De Deken)
Cronos.ai (Fiore Frequelli en Bart Briers)
Zo leerde ik via Tom https://indy-me.ai/ kennen
Wist je dat Voice data ook PII is?
Er waren verschillende sprekers of panels van de wetgevende instanties uit Europa, maar ook uit de Verenigde Staten (FBI / Homeland security). Indrukwekkend om te zien op welk niveau ze er daar mee bezig zijn.
Dat RAG voor een productiviteitsboost zorgt moest ik je niet vertellen. Wat Leuk dat Nestlé hier een prachtige case over kwam brengen. Ze startten initieel met een eenvoudige RAG, om te bewijzen dat het kon werken. Al snel schakelden ze over naar multi agent RAG. Ze bouwen daar hun RAG met Langchain en op Azure AI search.
Wat wij al wisten werd door hen ook nog eens bevestigd. Het is super belangrijk te bepalen welke metadata je mee in elke chunk steekt (dit is iets wat we in Drupal met de search_api connector mooi in een interface kunnen doen). Dit is key voor het success van de "zoek".
Wat ze bij OpenAI Function calling noemen, noemen ze bij Nestlé "AI connectors".
Ze schaalden al snel van 100.000 naar 200.000 gebruikers.
Dit is normaal de naam van een hacking aanval. Ze ontwikkelden zelf ook een Man in the middle. Een soort cookiemelding voor dat hun AI naar buitenaf communiceerd:
"Wil je deze vraag, of de informatie uit dit gesprek echt delen met het internet?".
Erg cool, want ik had een vergelijkbare implementatie gezien op vragen.ai. Mijn persoonlijke voorspelling: we gaan dit meer en meer zien, dit zal zo'n beetje de cookimelding van de AI worden.
Leuk ook om te horen dat ze echt aan kwaliteitscontrole moeten doen, want bij de switch van een model willen ze niet alles opnieuw moeten testen.
Er waren ook verschillende sessies waar met vertelde over de inzet van AI in contact centers. Hier hoorde ik dat "Voice data is PII". Maar ook de waarde van RAG en connectors op Genesys kwamen hier aan bod.
Wil je een AI aan het werk zien check dan zeker https://vlaanderen.vragen.ai.
Tijdens het event waren er wel heel wat praktische issues.
Of ik volgend jaar weer ga laat ik nog even in het midden.
Ik was enkele weken geleden op Drupalcon en nu apprecieer ik het eens zo hard hoe vlekkeloos het daar ging en hoe geolied alles daar liep. Zou het te maken hebben met het feit dat het Open Source events gerunned worden door vrijwilligers?
Hoe dan ook was het de moeite om er eens te zijn. Ik heb interessante cijfers kunnen meenemen en mooie cases gezien.
Stuur me een berichtje als je hierover meer wil weten!
Wil je hierover graag eens napraten? Geef me een seintje!
