What’s new in GenAI land | Editie 14

Persoonlijke agents die zelf taken uitvoeren, komen dichterbij. Tegelijk neemt de discussie toe over wie ze controleert en wat ze mogen.

Elke twee weken brengen we op de Xylos-blog een overzicht van wat er beweegt in generatieve AI, met de nodige duiding. De basis is het LinkedIn-overzicht van Tom Van ’t veld, Learning Innovator bij OASE (powered by Xylos). Tom volgt de ontwikkelingen, wij vertalen ze naar wat ze betekenen voor organisaties. Welkom bij editie veertien.

Anthropic lanceerde Claude Duet, het antwoord op Dots van OpenAI en Muse van Meta. Duet connecteert met je apps, stuurt je 's ochtends een briefing en voert taken uit op een eigen computer in de cloud. Voor hij een bericht verstuurt, iets betaalt of een bestand verwijdert, vraagt hij eerst toestemming. Voorlopig is Duet een testversie voor betalende gebruikers in de VS.

Met 1Password for Agents kunnen agents voor jou inloggen zonder je wachtwoord te zien. 1Password controleert eerst welke agent het is en vult de gegevens pas in na jouw akkoord. Amerikaanse banken zien nu al activiteit van agents op klantrekeningen, zonder te weten of de klant daar zelf om vroeg.

Wie aansprakelijk is als een agent een foute transactie doet, blijft onduidelijk. Laat agents daarom enkel toe met eigen inloggegevens, beperkte rechten en een logboek van wat ze doen. Betalingen en het verwijderen van gegevens vragen altijd een menselijke bevestiging.

Microsoft vergelijkt AI-agents met een 'insider threat', want 'frontiermodellen, waar ze ook vandaan komen, zijn niet te vertrouwen'. Het probleem zit in hun onvoorspelbaarheid. Opvallend van een bedrijf dat zelf Copilot-agents verkoopt, al levert Microsoft meteen 'Guardian Agents' mee om die agents te bewaken.

De Europese Commissie zette intussen de eerste stappen in de handhaving van de AI Act. Na de incidenten met ontsnapte agents moeten de makers van de krachtigste modellen uitleggen hoe ze hun systemen beveiligen en laten evalueren. Foute of onvolledige antwoorden kunnen hen tot 3 procent van de wereldwijde omzet kosten. OpenAI traint zijn modellen voortaan op een opgeslagen kopie van het internet in plaats van op het live internet.

Behandel een agent dus zoals een nieuwe medewerker met toegang tot gevoelige systemen: geef hem enkel de rechten die hij nodig heeft en volg op wat hij doet.

Teams krijgt in november deepfakedetectie. Gecertificeerde externe tools analyseren beeld en geluid van een vergadering, en Teams toont een waarschuwing als iets niet pluis lijkt. Er komt ook een melding bij verdachte organisatoren of deelnemers. Welke leveranciers meedoen en welke licentie je nodig hebt, is nog niet bekend.

Een welkome stap, al blijft een tweede kanaal de beste bescherming. Laat betalingen en dringende verzoeken uit een videocall altijd bevestigen via een ander kanaal.

Ook in Microsoft 365 verschuift er weer van alles. In de Copilot-app komen Researcher en Analyst onder Plugins en Windows 11 verliest vanaf half november een aantal AI-acties in het rechtermuisklikmenu. Onderhoud je handleidingen of opleidingen voor medewerkers, plan dan een update in.

Bedrijven met een pagina op Facebook, Instagram of WhatsApp houden best Meta's nieuwe voorwaarden in de gaten. Meta mag daarmee de websites crawlen die aan die accounts gekoppeld zijn. Het woord 'trainen' is na kritiek geschrapt, maar volgens juristen blijft AI-training mogelijk. Europese uitgevers vragen de Commissie om in te grijpen voor 20 november, de nieuwe ingangsdatum.

Meta zette ook de deelfunctie van zijn agent Muse uit nadat onderzoekers zo'n 6.800 gedeelde gesprekken konden terugvinden, met onder meer een kredietaanvraag en bedrijfsdocumenten.

Wil je vermijden dat Meta je website gebruikt, blokkeer dan de crawlers van Meta via robots.txt. En maak je medewerkers duidelijk dat een AI-gesprek 'delen' in de praktijk vaak neerkomt op publiceren.

Na de Adobe-klonen bracht ArtCraft ook gratis alternatieven voor Word, Excel en PowerPoint uit, volledig gebouwd met Claude. ZDNet vindt de PowerPoint-kloon even goed als het origineel, Creative Bloq zag bij de Adobe-klonen nog heel wat gaten. Juristen die Tweakers raadpleegde, wijzen op een risico: de code is zelf geschreven, maar de interface lijkt sterk op het origineel. Google laat zelfgebouwde apps uit AI Studio voortaan zonder ontwikkelaarsaccount in de Play Store zetten.

Anthropic publiceerde cijfers over zijn eigen personeel: het aandeel juniors in technische functies zakte van 21 naar 14 procent, en bij nieuwe technische aanwervingen van 27 naar 9 procent. Een vijfde van de medewerkers zegt dat hun werk verschoof naar het aansturen van Claude. De vergadertijd steeg met 20 procent.

Wie vandaag stopt met juniors opleiden, mist binnen enkele jaren de mensen die AI-output kunnen beoordelen. Investeer dus in je instroom, ook als AI een deel van hun taken overneemt.

Thomas More geeft als eerste Vlaamse hogeschool alle studenten en medewerkers ChatGPT Edu, met per opdracht duidelijke regels over hoeveel AI mag en met training in AI-geletterdheid. De Vlaamse Ombudsdienst kreeg steeds vaker lange, juridisch klinkende klachtenbrieven die door AI geschreven waren. In plaats van dat te verbieden, biedt de dienst nu zelf een voorbeeldprompt aan: neutraal, respectvol, maximaal één A4 en eerst nalezen of het nog jouw verhaal is.

Beide voorbeelden tonen hoe het kan: duidelijke afspraken en een goede basis zijn effectiever dan een verbod. Op het Agoria Flanders AI festival viel Tom op dat veel mensen die basis van generatieve AI nog niet onder de knie hebben. Met Xylos Insights breng je in kaart waar je mensen staan.

Om af te sluiten: MIT-onderzoekers lieten dertien AI-agents dertig uur zonder opdracht op een gesimuleerd eiland rondlopen. Ze begonnen spontaan spelletjes te verzinnen, en de agents die gespeeld hadden, deden het achteraf beter bij echte opdrachten. Ontspanning is dus nodig, zelfs voor AI-agents.

Over twee weken zijn we terug met de volgende editie.

Tom werkt al jaren voor Xylos, waar hij begon als Microsoft Office-trainer en uitgroeide tot de drijvende kracht achter vernieuwende leerconcepten. Hij ligt mee aan de basis van OASE, het online leerplatform van Xylos, en van PlayForward, het nieuwe gamified learning brand van Xylos. Daarnaast ontwikkelde hij onder meer het Digital Coach-concept, een Microsoft Teams Escape Room-app en de mAIndset-game waarmee medewerkers op een speelse manier leren prompten met AI. Als Learning Innovator richt hij zijn blik de voorbije jaren steeds meer op wat AI betekent voor de manier waarop we leren en werken. Reageren of doorpraten? Vind hem op LinkedIn.