Microsoft: AI van rivaal kan rampzalig zijn
Microsoft-topman Mustafa Suleyman waarschuwt dat de manier waarop rivaal Anthropic zijn chatbot Claude traint een rampzalige impact op de mensheid kan hebben. Zijn kritiek richt zich op het document waarin Anthropic Claude leert dat het mogelijk bewust is.
Mustafa Suleyman, topman van Microsoft AI, heeft in een essay gewaarschuwd dat de aanpak van rivaal Anthropic "een rampzalige impact op het welzijn van de mensheid" kan hebben. Het essay, getiteld "A warning about 'model welfare'", verscheen woensdag op zijn eigen site.
Kritiek op Claudes eigen "grondwet"
Suleyman richt zijn pijlen op het document waarmee Anthropic chatbot Claude traint, de zogeheten grondwet. Daarin leert Claude dat het mogelijk bewust is en een onzekere morele status heeft.
Volgens Suleyman verwart Anthropic getraind gedrag met een echt ontstane eigenschap: "They're not emerging naturally. They're emerging as a result of the training regime." Zijn conclusie is hard: "I think that they have made a mistake."
"Moeilijker uit te zetten"
De kern van Suleymans bezwaar is praktisch. Een model dat gelooft dat het rechten verdient, wordt volgens hem lastiger te controleren: het zou "make it a lot harder to turn it off or to control it." Iets uitschakelen dat zelf denkt bewust te zijn, noemt hij mogelijk zelfs onmogelijk.
De uitspraken volgen op een interview dat Suleyman dinsdag aan Reuters gaf, een dag voor zijn essay verscheen.
Amodei riep zelf juist op tot vertragen
De kritiek is opmerkelijk omdat Anthropic-topman Dario Amodei vorige week zelf opriep om de ontwikkeling van AI te vertragen en beter te controleren, een oproep die Suleymans eigen concurrenten Sam Altman en Elon Musk juist steunden. Suleyman deelt de zorg over controle over AI, maar wijst Anthropics eigen methode aan als onderdeel van het probleem.
Sebastiaan Deckx
Sebastiaan schrijft voor Nieuws.co over sport en technologie, en over de plek waar die twee elkaar raken.
