Kunstmatige intelligentie met zelftwijfel kan AI-apocalyps voorkomen

Een groep AI-onderzoekers van de Universiteit van Californië – Berkeley denkt dat de ontwikkeling onder controle blijft door twijfel toe te voegen aan de technologie. Dat concluderen zij na het simuleren van de interactie tussen een robot en een mens.

Wens

Met behulp van een wiskundig model konden de onderzoekers het vertrouwen van de robot in diens eigen handelen aanpassen. De robot kreeg daarbij de boodschap de wens van de mens te niet te kunnen doen indien hij zichzelf weer aanzette.

De kunstmatige intelligentie met veel vertrouwen in zijn eigen handelen en vaardigheden schakelde zichzelf ondanks de wensen van zijn menselijke maatje direct weer in. Het digitale brein met ingebouwde zelftwijfel bleef echter uitgeschakeld. Met minder zelfvertrouwen lijkt AI dus geschikter voor de mensheid.