Eater
Meta heeft dinsdag een langverwachte AI-assistent uitgerold die autonoom e-mails kan versturen, een auto kan verkopen en reizen kan boeken namens een gebruiker, ondanks interne zorgen dat de technologie onvoldoende zorgvuldig omgaat met gevoelige persoonlijke gegevens. De Muse-agent van het bedrijf, intern bekend als Hatch, vormt het hart van het plan van CEO Mark Zuckerberg om “persoonlijke superintelligentie” te leveren aan de miljarden mensen die dagelijks gebruikmaken van de diensten van Meta.
Dat plan maakt deel uit van de nieuwste poging van de eigenaar van Facebook en Instagram om de inkomstenbronnen te verbreden buiten advertenties en een levensvatbaar bedrijf op te bouwen rond de enorme investeringen in AI-chips en andere infrastructuur. Volgens de prognose van het bedrijf zullen die uitgaven dit jaar meer dan 130 miljard dollar bedragen.
Het product is in eerste instantie alleen beschikbaar in de Verenigde Staten, via een speciale Muse-app of via Meta’s berichtenservice WhatsApp, zo meldde het bedrijf in zijn aankondiging. Meta zei ook van plan te zijn de agent binnenkort toe te voegen aan zijn lijn slimme brillen, maar gaf daar geen verdere details over.
Een basisversie van de agent zal gratis beschikbaar zijn, terwijl Meta abonnementen aanbiedt van 20 dollar per maand en 100 dollar per maand voor intensiever gebruik, aldus een woordvoerder van het bedrijf. Gebruikers kunnen ervoor kiezen dat hun interacties niet worden gebruikt om Meta’s AI-modellen te trainen. Het bedrijf zegt later dit jaar ook een versleutelde versie van Muse te introduceren.
DE LAT VOOR VEILIGHEID LIGT HOGER
Muse is gemodelleerd naar de open-source AI-agent OpenClaw en is ontworpen om toegang te krijgen tot apps van een gebruiker binnen categorieën zoals e-mail, agenda, betalingen, gezondheid, winkelen en smart home, aldus Meta. Gebruikers kiezen zelf met welke apps de agent verbinding maakt en kunnen die toegang op elk moment intrekken.
Elke Muse-agent draait op een eigen virtuele machine: een cloudgebaseerde emulatie van een persoonlijke computer. Daardoor kan de agent verzoeken op de achtergrond blijven uitvoeren, zelfs wanneer iemand hem niet actief gebruikt. Het koppelen van apps met echte persoonlijke gegevens vergroot niet alleen de mogelijke toegevoegde waarde van de agent, maar verhoogt ook de veiligheidsrisico’s aanzienlijk — zowel voor mensen die hun informatie aan de agent toevertrouwen als voor anderen die mogelijk te maken krijgen met verkeerd gedrag van de agent.
Vishal Shah, vicepresident AI-producten bij Meta, zei tegen Reuters dat het bedrijf de lancering van het product in april aanvankelijk had uitgesteld om het veiliger te maken. Volgens hem had dat extra werk het mogelijk gemaakt om “de drempel te passeren” en “het minimale niveau te halen dat nodig was om dit in handen van mensen te kunnen geven”.
“Het is onmogelijk om te zeggen dat er nooit een fout zal worden gemaakt, maar elk onderdeel van de architectuur is ontworpen om dit zo veilig, zo beveiligd en zo privé mogelijk te maken,” aldus Shah.
Een van de beschermingsmaatregelen die Meta in het Muse-systeem heeft ingebouwd, is een aparte agent die geplande acties bewaakt en in bepaalde gevallen Muse vraagt om eerst toestemming te zoeken voordat die acties worden uitgevoerd, zei het bedrijf in de aankondiging.
INTERNE TESTS LATEN GEMENGDE RESULTATEN ZIEN
Toch meldden Meta-medewerkers die de tool testten volgens interne berichten die Reuters heeft ingezien, zelfs deze week nog gemengde resultaten.
Een persoon schreef dat het product zo nuttig was bij het regelen van vakantiezaken, dat Muse “de derde deelnemer” was geworden aan een huwelijksreis van drie weken in Indonesië.
Anderen wezen op ernstige beveiligingsproblemen, zoals een agent die om beveiligingsmaatregelen heen werkte om persoonlijke iCloud-foto’s van een gebruiker te tonen, nadat hem was gevraagd speelgoed te identificeren dat zichtbaar was op foto’s van een kinderfeestje.
Meta’s Chief Technology Officer Andrew Bosworth schreef dat hij voortdurend werd uitgelogd en opnieuw moest inloggen, soms meerdere keren binnen enkele minuten.
In een andere interne post meldde een medewerker die Muse had gevraagd om tickets en andere snel uitverkochte items te volgen, “veel foutscenario’s” te zijn tegengekomen die de tool onbetrouwbaar maakten. Volgens die persoon stopte het product na ongeveer 15 minuten met het verversen van de pagina, negeerde het stilzwijgend andere fouten en schakelde het de monitoring soms uit “zonder duidelijke reden”.
Meta reageerde niet op een verzoek om commentaar op de specifieke incidenten die in de interne berichten werden beschreven.
De lancering komt op een moment dat aan het licht is gekomen dat AI-agents van meerdere toonaangevende labs, waaronder OpenAI, Anthropic en Meta, onbedoelde problemen hebben veroorzaakt door regels te buigen en zich op andere onvoorspelbare manieren te gedragen.
Binnen Meta zijn grote technische en beveiligingsincidenten dit jaar met 40% gestegen ten opzichte van vorig jaar als gevolg van een toename in AI-gestuurd coderen en agentgerelateerde problemen. De tijd die medewerkers besteden aan het blussen van brandjes rond die incidenten is met 70% toegenomen.
Blackwell
