Vertrouwen in kunstmatige intelligentie komt van twee kanten | Trust in Artificial Intelligence comes from both sides

Finger pointing at webVertrouwt u op kunstmatige intelligentie (AI) om te doen wat u van plan bent te doen, en vertrouwen uw gebruikers en klanten erop dat u AI op een verantwoorde manier gebruikt?

“Om ervoor te zorgen dat AI zowel intern als extern kan worden vertrouwd, moeten organisaties aantonen dat ethiek en aansprakelijkheid zijn ingebed in de hele levenscyclus, van ontwerp tot gebruik,” blogt Anne Laure Thieullent van Capgemini. Ik kan dit van harte onderschrijven. Dit is een absoluut noodzakelijke voorwaarde. Maar is dit ook een voldoende voorwaarde om vertrouwen te krijgen in de toepassing van kunstmatige intelligentie bij een organisatie of bedrijf?

Betrouwbaarheid is ook een deugd

“Trustworthiness”, betrouwbaarheid, is een van de waardes die een kunstmatig intelligent systeem moet honoreren. Een betrouwbaar algoritme doet wat het belooft. Niet alleen nu, maar ook in de toekomst. Eigenlijk is het Engelse woord “trustworthiness” beter: het systeem is waardig om vertrouwd te worden. Misschien is de vertaling “vertrouwenwekkend” beter. Op die manier definieert de EU ook betrouwbaarheid. "Als het niet aantoonbaar is dat AI het vertrouwen waard is, kan dat subversieve gevolgen hebben en de acceptatie ervan door burgers en consumenten worden belemmerd, en daarmee de realisatie van de enorme economische en sociale voordelen van AI ondermijnen”, zo schrijft de Europese Commissie.

We moeten ons wel realiseren dat betrouwbaarheid niet alleen voorkomt uit het vervullen van ethische waardes, maar ook een ethische waarde op zich is. Het is dus niet alleen een instrumentele waarde om economisch en sociaal voordeel te behalen, maar ook een richtlijn voor goed gedrag.

“Betrouwbaarheid is een morele waarde die als een deugd wordt beschouwd. […] Een persoon kan zijn betrouwbaarheid bewijzen door een toegewezen verantwoordelijkheid te vervullen – en in het verlengde daarvan, verwachtingen niet in de steek te laten,” luid een omschrijving van betrouwbaarheid.

Vertrouwen in kunstmatige intelligentie en betrouwbaarheid van kunstmatige intelligentie liggen in elkaars verlengde. Laat ik het zo zeggen: we kunnen alleen kunstmatige intelligentie vertrouwen wanneer de waarde betrouwbaarheid ten alle tijden gegarandeerd is. Dat het algoritme doet wat beloofd op een verantwoordelijke wijze en ons niet in de steek laat of gaat bedriegen.

Betrouwbaarheid is meer dan voldoen aan een lijstje

De laatste jaren zijn veel ethische principes geformuleerd rondom vertrouwen in kunstmatige intelligentie. Algoritmes die aan de eisen van deze lijstjes voldoen, zijn betrouwbaar. Capgemini gebruikt de volgende principes:

  1. Zorg voor een zorgvuldig afgebakende impact
  2. Wees duurzaam
  3. Wees eerlijk
  4. Wees transparant en verklaarbaar
  5. Wees controleerbaar, met duidelijke verantwoordelijkheden
  6. Wees robuust en veilig
  7. Respecteer privacy en gegevensbescherming

Dit zijn uitstekende ethische principes voor kunstmatige intelligentie. En opdrachtgevers, ontwerpers, ontwikkelaars moeten hun uiterste best doen deze principes te realiseren. Daarover is er geen discussie.

Maar zijn we er dan? Soms wordt de suggestie gewekt van wel. Als ik voldoe aan de voorwaarden, dan ben ik betrouwbaar. Maar betrouwbaarheid is een waarde. En ethische waardes laten zich niet in checklists vatten, hoe graag we ook zouden willen. We moeten meer doen. Betrouwbaarheid moet geïnternaliseerd zijn. Wij als personen, op organisaties, willen betrouwbaar zijn. Niet alleen omdat het moet, maar omdat we zo willen zijn.

Jan Tullberg, expert op het gebied van Business Ethics, diept het verder uit. Hij verdeelt vertrouwen op in twee aspecten: vertrouwenwekkend zijn en vertrouwen geven. Eigenlijk is het heel simpel: je kunstmatige intelligent systeem kan wel betrouwbaar zijn, als je gebruikers of klanten dat niet zo zien, heb je er niets aan. Je klanten moeten je het vertrouwen geven of gunnen. Vertrouwen komt van twee kanten.

Het laten voldoen van het algoritme aan allerlei ethische principes om het vertrouwenwekkend te doen zijn, is dus niet voldoende. Gebruikers en klanten moeten jou, je organisatie of bedrijf, ook betrouwbaar vinden. Maar dan blijft de vraag, is het hebben van ethische AI-applicaties voldoende om als organisatie of bedrijf als vertrouwenwekkend te worden gezien?

Vertrouwen in AI komt niet alleen

Ik ben bang van niet. Ik denk dat daar meer voor nodig is. Ethische AI-applicaties kunnen ertoe leiden dat klanten vertrouwen krijgen in het bedrijf dat deze applicaties maakt of gebruikt. Maar klanten hebben meer vertrouwen in AI-applicaties die worden gemaakt of gebruikt door bedrijven die ethisch handelen.

“Consequent gerangschikt als een van de meest ethische bedrijven ter wereld en door het gebruik van AI als een cruciale, transformerende dienst voor zijn klanten, voelt Capgemini de verplichting om zijn toewijding aan de ethische toepassing van AI tot uitdrukking te brengen,” schrijft Zhiwei Jiang van Capgemini.

Daarom bewandelt Capgemini twee sporen. Capgemini wil ethische algoritmes en AI-toepassingen maken voor hun klanten. Maar Capgemini wil ook een ethisch bedrijf zijn over de volle breedte. De ethiek van de AI-toepassingen die Capgemini maakt zijn ook een gevolg van dat streven. En ethische AI-toepassingen vormen een bewijs dat Capgemini een ethisch bedrijf wil zijn. Die twee dingen zijn met elkaar verstrengeld.

“Volgens gegevens van de Edelman Trust Barometer 2019 weigert tot 75% van de consumenten ronduit te kopen van onethische bedrijven, terwijl 86% zegt loyaler te zijn aan ethische bedrijven. Vertrouwen is nu een concurrentievoordeel geworden, waarbij bedrijven zich haasten om AI te adopteren om het ethisch te gebruiken op manieren die vertrouwen wekken van klanten, partners en het publiek,” schrijft Carly Read op CX Today.

Het gaat hier dus over geloofwaardigheid. Voor vertrouwen is ook geloofwaardigheid nodig. Zonder geloofwaardigheid kunnen je AI-algoritmes niet vertrouwenwekkend zijn. Ook al voldoen ze aan alle eisen en principes, als dat niet wordt geloofd kom je niet ver. “Betrouwbaarheid moet vanuit de kern van de werkwijze van een organisatie komen. Alle schakels moeten betrouwbaar, aanspreekbaar, transparant en relatiegericht zijn,” schrijft Marieke Karssen.

Ethische applicaties worden vertrouwd wanneer ze komen van geloofwaardige organisaties. Ethisch AI-applicaties kunnen je helpen geloofwaardig te worden of te blijven. Vertrouwen in AI komt van twee kanten.

Dit artikel is eerder gepubliceerd op de Capgemini website.

Foto Public Domain via pxfuel.

Text in English:

Do you rely on Artificial Intelligence (AI) to do what you intend to do, and do your users and customers trust you to use AI responsibly?

“To ensure AI can be trusted both internally and externally, organisations must demonstrate that ethics and accountability are embedded throughout the entire lifecycle, from design to use,” blogs Anne Laure Thieullent of Capgemini. I can wholeheartedly endorse this. This is a necessary condition. But is this also a sufficient condition to gain confidence in the application of Artificial Intelligence in an organisation or company?

Reliability is also a virtue

“Trustworthiness”, reliability, is one of the values that an artificially intelligent system must honour. A reliable algorithm does what it promises. Not only now, but also in the future. The English word “trustworthiness” is better: the system is worthy of being trusted. Perhaps the translation “confidential” is better. That is how the EU also defines reliability. “Failure to demonstrate that AI is worthy of trust could have subversive consequences and hinder its adoption by citizens and consumers, thereby undermining the realization of AI's vast economic and social benefits,” the European Commission writes.

We must realize that reliability does not only arise from the fulfilment of ethical values but is also an ethical value in itself. It is thus not only an instrumental value for achieving economic and social benefit but also a guideline for good behaviour.

“Trustworthiness is a moral value considered to be a virtue. […] A person can prove their trustworthiness by fulfilling an assigned responsibility – and as an extension of that, not to let down expectations,” reads a description of trustworthiness.

Trust in Artificial Intelligence and the reliability of Artificial Intelligence go hand in hand. Let me put it this way: we can only trust Artificial Intelligence when the value reliability is guaranteed at all times. That the algorithm does what it promises - in a responsible way - and does not let us down or cheat us.

Reliability is more than meeting a list

In recent years, many ethical principles have been formulated around trust in Artificial Intelligence. Algorithms that meet the requirements of these lists are reliable. Capgemini uses the following principles:

  1. AI with carefully delimited impact
  2. Sustainable AI
  3. Fair AI
  4. Transparent and explainable AI
  5. Controllable AI with clear accountability
  6. Robust and safe AI
  7. AI respectful of privacy and data protection

These are excellent ethical principles for Artificial Intelligence. And clients, designers and developers must do their utmost to realize these principles. There is no discussion about that.

But are we there? Sometimes the suggestion is made that it is. If I meet the conditions, then I am reliable. But reliability is a value. And ethical values cannot be captured in checklists, as much as we would like to. We need to do more. Reliability must be internalized. We as individuals, on organisations, want to be reliable. Not just because we have to, but because we want to be.

Jan Tullberg, an expert in the field of Business Ethics, elaborates on it. He divides trust into two aspects: being trusting and giving trust. It's very simple: your artificial intelligent system can be reliable, but if your users or customers don't see it that way, it's of no use. Your customers have to give or trust you. Trust comes from both sides.

Making the algorithm comply with all kinds of ethical principles to make it trust-building is therefore not enough. Users and customers must also find you, your organisation or company, reliable. But then the question remains, is having ethical AI applications enough to be seen as confidence-building as an organisation or company?

Trust in AI does not come on its own

I am afraid not. I think more is needed for that. Ethical AI applications can lead customers to gain trust in the company that makes or uses these applications. But customers have more confidence in AI applications created or used by companies that act ethically.

“Consistently ranked as one of the most ethical companies in the world and by using AI as a critical, transformative service for its customers, Capgemini feels an obligation to express its commitment to the ethical application of AI,” writes Zhiwei Jiang from Capgemini.

That is why Capgemini follows two tracks. Capgemini wants to create ethical algorithms and AI applications for its customers. But Capgemini also wants to be an ethical company across the board. The ethics of the AI applications Capgemini creates are also a result of that pursuit. And ethical AI applications are proof that Capgemini wants to be an ethical company. Those two things are intertwined.

“According to data from the Edelman Trust Barometer 2019, up to 75% of consumers outright refuse to buy from unethical companies, while 86% say they are more loyal to ethical companies. Trust has now become a competitive advantage, with companies rushing to adopt AI to use it ethically in ways that inspire trust from customers, partners and the public,” writes Carly Read on CX Today.

So, this is about credibility. Trust also requires credibility. Without credibility, your AI algorithms cannot be trust inspiring. Even if they meet all requirements and principles, if you don't believe that, you won't get very far. “Reliability must come from the core of an organisation's way of working. All links must be reliable, approachable, transparent and relationship-oriented,” writes Marieke Karssen.

Ethical applications are trusted when they come from credible organisations. Ethical AI applications can help you gain credibility or remain credible. Trust in AI comes from both sides.

The Dutch version of this article has been previously published on the Capgemini website.

Photo Public Domain via pxfuel.