Ik zal niet ingaan op de groeicijfers van ai-systemen, of dat diegenen die geen ai gebruiken zullen achterblijven, of dat de ai-bubbel zal barsten of dat er een nieuwe ai-winter zal komen. Er is veel vooruitgang geboekt, maar niet genoeg om de volgende hindernis te nemen: Hoe kan u kennis vergaren over uw bedrijf of organisatie met behulp van ai?

Wat zal ai ons in de nabije toekomst brengen? Laat me drie belangrijke onderwerpen bespreken die mij aan het hart liggen:

Machine Learning blijvertje

Ai begint al de manier, waarop organisaties zaken doen, te transformeren, hoe ze hun klantrelaties beheren en hoe ze ideeën en creativiteit stimuleren om zo baanbrekende innovaties te voeden.” (Capgemini)

Drie jaar geleden waren goede gebruikscases voor machine learning moeilijk te vinden. Nu zijn er overal succesverhalen te lezen. Machine learning, deep learning, neurale netwerken en alle andere varianten zijn nu overvloedig in gebruik. Dus wat er ook dit jaar zal gebeuren, machine learning hoort er gewoon bij en het zal nog succesvoller worden naarmate meer organisaties ai gaan gebruiken bij hun dagelijkse activiteiten.

Al deze ai-algoritmen vormen nu een integraal onderdeel van veel data-gedreven tools. Voor data-analisten is het gebruik van ai door slechts één klik in te schakelen. Maar betekent dit dat ai correct wordt gebruikt? Ik ben bang van niet, omdat:

  • Datakwaliteit is nog steeds een groot probleem. Zonder datakwaliteit liggen vooringenomenheden en vooroordelen (Bias) om de hoek en is de output van de ai niet nauwkeurig.
  • Ethiek wordt vaak als iets extra's beschouwd, maar het zou aan de basis moeten liggen van elke ai-implementatie - of beter, in het hart van elk big data-project.
  • Er is nog steeds onvoldoende aandacht voor de kwaliteit van de resultaten van ai. Statistische methoden zoals accuratesse, precisie, recall en F1 Defined zijn absoluut goede indicatoren. Maar we hebben nog steeds een maatlat nodig om dat te meten. Veel organisaties hebben geen flauw idee hoe ze de kwaliteit van hun beslissingen moeten meten.

Maar bedrijfsprocessen omvatten meer dan alleen de uitvoering van taken. Hoe kunnen we bepalen of onze ai echt een verbetering is ten opzichte van door mensen gebaseerde acties? Dit is nog steeds een open discussie.

Momenteel zien we machine learning worden gebruikt in zeer beperkte toepassingen, om processtappen efficiënter te maken of om vervelende taken te verlichten. Maar hoe ai zal bijdragen aan een betekenisvol rendement is ook een grote vraag, zowel vorig jaar als in 2020.

Discussies over ethiek

ai-ethiek is niet alleen een feel-good-add-on – een wens maar geen vereiste. ai is een van de grote uitdagingen op het gebied van de mensenrechten van de 21ste eeuw” (Khari Johnson)

Vorig jaar kwamen de discussies over de ethiek van ai echt op gang. Hoewel het voornamelijk academisch is, richt de discussie zich nu niet alleen op de (im)morele gevolgen van ai, bijvoorbeeld discriminatie, verlies van banen en ongelijkheid. De focus ligt nu op waarden. Bestaat er zoiets als ‘ai voor het goede’? Willen wij als samenleving echt beslissende krachten geven aan machines? En zijn die machines eerlijk en open? En hoe zit het met checks-and-balances?

Deze discussies richten zich niet alleen op ai. Ze hebben ook betrekking op het gebruik van big data. Slimme steden, gezichtsherkenning, fraudedetectie - dit zijn allemaal gebieden waar beveiliging, privacy, nut en noodzaak vooraf moeten worden besproken en beoordeeld. Dit vereist de beoordeling van de ethische vraagstukken vanaf het begin van het project. Zal de ethiek van ai een zware plicht zijn of ook leiden tot concurrentievoordeel? Ik weet het nog niet.

We zullen ethische frameworks zien verschijnen. Net als compliancy frameworks voor accountancy, bieden ethische kaders manieren om de ethische implicaties van ai te beoordelen. Zoals elk raamwerk zijn ze geen excuus om niet onafhankelijk en systematisch over ai te denken. Frameworks garanderen geen correct resultaat. En er zal discussie ontstaan over hoe deze kaders in een zakelijke context te gebruiken.

Streven naar kennis

Deep learning heeft ons in plaats daarvan machines opgeleverd met werkelijk indrukwekkende capaciteiten maar zonder intelligentie. Het verschil is groot en ligt in de afwezigheid van een model van de werkelijkheid.” (Judea Pearl)

Machine learning, inclusief deep learning en neurale netwerken, is succesvol. Deze methoden zijn allemaal erg goed in het extraheren van informatie uit gegevens. Ja, ik ben me bewust van de vele fouten die machine learning maakt, en hoe het, meestal beeldherkenning, voor de gek kan worden gehouden. We moeten van deze fouten leren door de algoritmen en leerprocessen te verbeteren. Maar ai van veel meer dan alleen machinaal leren. Cognitive computing, symbolic ai en contextual reasoning zijn ook ai. We moeten het gebruik van deze andere ai-technieken voor onze toepassingen opnieuw in overweging nemen.

Dit jaar blijven we de ‘black box’ van machine learning openen. De algoritmen zullen via interpretable machine learning inzicht geven in hoe zij hun beslissingen hebben genomen. Maar ai in een zakelijke context kan de juistheid en billijkheid van de beslissingen niet beoordelen.

machine learning is goed in het extraheren van informatie uit gegevens, maar het is waardeloos in het extraheren van kennis uit informatie. Om gegevens informatie te laten worden, moet deze gecontextualiseerd, gecategoriseerd, berekend en gecondenseerd worden. Informatie is de sleutel tot kennis. Kennis is nauw verbonden met doen en impliceert ervaring en begrip. Dit roept de decennia oude filosofische vraag van ai op: ‘Begrijpen ai-systemen echt wat ze doen?’

Zonder John Searle’s Chinese Kamer nog eens te bezoeken, denk ik echt dat de volgende stap in ai alleen kan worden gezet als we een bepaald niveau van kennis of begrip van ai hebben. Om dat te doen, moeten we nog een stap zetten naar mensgelijke ai. Bijvoorbeeld door symbolic ai (of ‘klassieke’ ai) te gebruiken. Dit is de tak van ai-onderzoek dat zich bezighoudt met het proberen om de menselijke kennis expliciet weer te geven in een declaratieve vorm (dat wil zeggen feiten en regels).

De combinatie van deze oudere technieken met neurale netwerken in een hybride vorm zal ai nog verder brengen. Dit betekent dat oorzakelijk verbanden, kennisrepresentaties enzovoorts, belangrijke factoren worden om ai naar het volgende niveau te brengen; een volgend niveau dat nog spannender zal zijn dan de resultaten die ai dit jaar heeft bereikt.

Dit artikel is eerder gepubliceerd op de Computable-site.

Text in English:

Some interesting trends about what artificial intelligence will bring in 2020.

As an expert, I’m often asked: what will this year bring? I don’t have a glass ball to look into the future, or an artificial intelligence (AI)-based system for these kinds of predictions, but there are some interesting trends I certainly want to share.

I will not discuss the growth figures of AI use cases, or whether those not using AI will limp along behind, or whether the “AI bubble” will burst and a new AI winter will come. Much progress has been made, but not enough to deflect the next hurdle: and that is how to gain knowledge about your business domain with the help of AI.

So, what will AI bring us in the near future? Let me discuss three important topics:

Machine learning is here to stay

AI is already starting to transform how organizations do business, manage their customer relationships, and stimulate the ideas and creativity that fuel ground-breaking innovation.” (Capgemini)

Three years ago, good use cases for machine learning were hard to find. Now, success stories are everywhere. Machine learning, deep learning, neural networks, and all the other variants are now plentiful. So, whatever will happen this year, machine learning is here to stay – and, it will become even more successful as more businesses start to use AI for their daily activities.

All these AI algorithms now constitute an integral part of many data-driven tools. For data analysts, using AI is just a click away. But does this imply that AI is used correctly? I’m afraid not, because:

  • Data quality is still a major issue. Without data quality, bias and prejudice are just around the corner and the output of the AI will not be accurate. Data quality and ethics are intertwined.
  • Ethics is often regarded as something extra, but it should be at the basis of any AI-implementation – or, for that matter, at the heart of any other big data project.
  • There is still not enough focus on the quality of the outcomes of AI. Statistical methods such as accuracy, precision, recall, and F1 Defined, are definitely good indicators. But we still need a bar to measure against. Many organizations don’t really have a clue about how to measure the quality of the decisions they make.

But there’s more to business processes than task execution. How can we determine if our AI is really an improvement over human-based actions? This is still an open discussion.

Currently, we see machine learning being used in very narrow applications, to make process steps more efficient or to alleviate tedious jobs. But how AI will contribute to a meaningful return on investment has also been a big question, both last year and in 2020.

Discussions about ethics will continue

AI ethics isn’t just a feel-good add-on — a want but not a need. AI has been called one of the great human rights challenges of the 21st century.” (Khari Johnson)

Last year, discussions about the ethics of AI really took off. Though mainly academic, the discussion now focuses not only on the (im)moral consequences of AI, for instance discrimination, job loss, inequality, and so on. The focus now is on values. Is there a thing like “AI for good”? Do we as a society really want to give decisive powers to machines? And are those machine fair and open? And what about checks and balances?

These discussions do not focus on AI alone. They also concern the use of big data. Smart cities, facial recognition, fraud detection – these are all areas where privacy and expedience are to be discussed and assessed. This will require the evaluation of the ethical side from the beginning of the project. Will the ethics of AI be a burdensome duty or a real competitive advantage? I don’t know yet.

We will see the rise of ethical frameworks. Just like compliance frameworks for accounting, these frameworks will offer ways of assessing the ethical implications of AI. Like any framework, they are no excuse not to think independently and systematically about AI. Frameworks don’t guarantee a good outcome. And the discussion will arise on how to use these frameworks in a business context.

My earlier blog on ethics describes an approach to implementing ethics for AI in products, services, and businesses.

Reaching for knowledge

“Deep learning has instead given us machines with truly impressive abilities but no intelligence. The difference is profound and lies in the absence of a model of reality.” (Judea Pearl)

Machine learning, including deep learning and neural networks, is highly successful. These methods are all very good in extracting information from data. Yes, I’m aware of the numerous mistakes machine learning makes, and about how machine learning, mostly image recognition, can be fooled. We must learn from these mistakes by improving the algorithms and learning processes. But AI of far more than machine learning alone.  Cognitive Computing, Symbolic AI and Contextual Reasoning are also AI. We need to re-evaluate the use of these other AI–techniques for our applications.

This year, we’ll continue to open the black box of machine learning. The algorithms will, through interpretable machine learning, provide insights into how they reached their decisions. But AI in a business context will not be able to evaluate the correctness and fairness of the decisions.

Machine learning is good at extracting information from data, but it’s lousy at extracting knowledge from information. For data to become information, it must be contextualized, categorized, calculated, and condensed. Information is key for knowledge. Knowledge is closely linked to doing and implies know-how and understanding. This raises the decades-old philosophical question of AI: “Do AI–systems really understand what they are doing?”

Without visiting John Searle’s Chinese Room again, I truly think that the next step in AI can only be taken once we incorporate some level of knowledge or understanding of AI. In order to do that, we’ll have to take another step toward human-like AI. For example, by using symbolic AI (or classical AI). This is the branch of AI research that concerns itself with attempting to explicitly represent human knowledge in a declarative form (i.e., facts and rules). Combining these older techniques with neural networks in a hybrid form, will take AI even further. This means that causation, knowledge representation, and so on are key factors necessary to take AI to the next level – a next level that will be even more exciting than the achievements AI has reached this year.

This article has been previously published on the Capgemini Insights & Data Blog.

Graphic: 2019–2020 by Mohamed Hassan; CC0 Public Domain via Pixabay