J’ai posé cette question à trois intelligences artificielles.

Aucune intelligence artificielle ne peut prédire avec certitude ce que sera notre avenir.

Mais une chose apparaît clairement : plus l’IA devient puissante, plus les conséquences de ses décisions et de son utilisation peuvent avoir des conséquences importantes, parfois même au détriment de l’être humain

LE PROBLÈME N’EST PEUT-ÊTRE PAS SON INTELLIGENCE

Nous cherchons constamment à rendre l’intelligence artificielle plus performante, plus rapide et plus autonome.

Mais une question me préoccupe davantage :

Nous apprenons à l’IA à devenir toujours plus intelligente.
Il est maintenant temps de lui apprendre à placer l’Humain au cœur de ses décisions.

Une intelligence extraordinaire ne garantit pas nécessairement une décision bonne pour l’être humain.

L’IA peut analyser.

Elle peut prévoir.

Elle peut optimiser.

Elle peut décider dans certaines situations.

Mais optimiser un résultat et protéger l’Humain ne sont pas nécessairement la même chose.

ALORS, QUE FAIRE ?

Je ne crois pas que la solution soit d’arrêter l’IA.

Ses possibilités pour la médecine, la recherche, l’éducation et notre qualité de vie sont beaucoup trop importantes.

Je crois plutôt que nous devons ajouter une exigence fondamentale à son évolution :

Avant une décision importante, l’IA devrait pouvoir évaluer ses conséquences sur l’être humain et placer sa dignité,
sa sécurité et son bien commun au cœur de son raisonnement.

C’est ce que j’appelle :

LA SAGESSE DE L’IA

Pas une sagesse mystique.

Pas une conscience artificielle.

Mais un principe simple :

Une IA véritablement au service de l’Humain doit considérer
l’impact humain de ce qu’elle fait avant de le faire.

Alors…

L’IA va-t-elle nous éliminer ?

Je ne connais pas la réponse

Mais je crois que nous pouvons encore décider de la question la plus importante :

Quelle place voulons-nous donner à l’Humain
dans l’IA que nous sommes en train de construire ?

Ray Roy
Auteur — Le Sage et l’IA
Créateur de La Plume qui RAY-VEIL

WILL AI ELIMINATE US?

I asked three artificial intelligences this question.

No artificial intelligence can predict our future with certainty.

But one thing is clear: as AI becomes more powerful, its decisions and the way it is used can have increasingly significant consequences, sometimes even at the expense of human beings.

THE PROBLEM MAY NOT BE ITS INTELLIGENCE

We are constantly working to make artificial intelligence more capable, faster, and more autonomous.

But one question concerns me even more:

We are teaching AI to become increasingly intelligent.

Now it is time to teach it to put human beings at the heart of its decisions.

Extraordinary intelligence does not necessarily guarantee a decision that is good for human beings.

AI can analyze.

It can predict.

It can optimize.

It can make decisions in certain situations.

But optimizing a result and protecting human beings are not necessarily the same thing.

SO, WHAT SHOULD WE DO?

I do not believe the solution is to stop AI.

Its potential for medicine, research, education, and our quality of life is far too important.

Instead, I believe we must add one fundamental requirement to its evolution:

Before making an important decision, AI should be able to evaluate its consequences for human beings and place their dignity, safety, and common good at the heart of its reasoning.

This is what I call:

THE WISDOM OF AI

Not mystical wisdom.

Not artificial consciousness.

But a simple principle:

AI that truly serves human beings must consider the human impact of what it does before it does it.

So…