“On ne veut pas qu’il en parle, mais il le fait quand même” : le nouveau modèle d’OpenAI révèle un bug gênant en pleine démonstration

L’intelligence artificielle (IA) continue de fasciner par ses avancées, mais elle n’est pas sans défauts notables. OpenAI, un acteur majeur dans ce domaine, a récemment dévoilé ses derniers modèles de raisonnement, le o3 et le o4-mini. Bien que ces modèles aient montré des prouesses dans divers domaines tels que les mathématiques complexes et l’analyse visuelle, ils sont également au centre d’une polémique grandissante. Un problème persistant, celui des « hallucinations », refait surface avec ces nouvelles versions, opposant ainsi les promesses technologiques à la réalité de leurs limites.

Le défi persistant des hallucinations

OpenAI, sous la direction de Sam Altman, a lancé ses modèles de raisonnement o3 et o4-mini, promettant des performances supérieures à celles de leurs prédécesseurs. Ces nouveaux modèles sont censés exceller dans la résolution de problèmes complexes en mathématiques, en codage et dans les défis scientifiques, tout en démontrant une forte perception visuelle. Cependant, un problème majeur persiste : ces modèles ont tendance à « halluciner » ou à inventer des informations plus fréquemment que les versions antérieures. Ce phénomène remet en question l’efficacité de ces outils, fortement critiquée par des acteurs de l’industrie comme TechCrunch. La lutte contre ces hallucinations reste un défi technique majeur que les entreprises technologiques peinent à relever, limitant ainsi l’utilité effective de solutions comme ChatGPT.

« Révolution mécanique » : ce robot marcheur américain à 20 € fonctionne sans électricité et défie toutes les lois connues de l’énergie moderne

Une tendance inversée et inquiétante

Historiquement, chaque nouvelle version des modèles d’IA d’OpenAI réduisait le taux d’hallucinations par rapport à la précédente. Cependant, avec les modèles o3 et o4-mini, cette tendance semble s’inverser de manière préoccupante. Les tests internes menés par OpenAI révèlent que ces nouveaux modèles hallucinent davantage que leurs prédécesseurs, tels que le o1 et le o1-mini. Le modèle o3, par exemple, affiche un taux d’hallucination de 33 % selon le benchmark interne d’OpenAI, PersonQA, soit le double de celui des modèles précédents. Cette inversion inquiétante suggère qu’OpenAI doit reconsidérer sa stratégie pour limiter ces dérives.

« Pékin crie au sabotage technologique » : Trump relance une guerre commerciale explosive en interdisant les puces IA cruciales pour la défense mondiale

Pourquoi ces hallucinations persistent-elles ?

OpenAI reconnaît ne pas comprendre entièrement pourquoi ses nouveaux modèles hallucinent autant. « Plus de recherches sont nécessaires pour comprendre les causes, » admet la société dans son rapport technique. Le modèle o4-mini, en particulier, souffre d’un taux d’hallucination alarmant de 48 %. Ce chiffre pourrait s’expliquer par sa taille réduite et son manque de connaissances mondiales en comparaison avec d’autres modèles plus complets. Transluce, une organisation de recherche à but non lucratif, a également remarqué cette tendance troublante, notamment lors de la génération de code informatique par le modèle o3.

« Le retour au bureau est vital pour dominer l’IA » : Sergey Brin affirme que Google ne gagnera la course à l’AGI qu’en rassemblant ses cerveaux physiquement

Les conséquences pour OpenAI et l’avenir de l’IA

Les implications de ces hallucinations sont vastes. Non seulement elles affectent la crédibilité des modèles d’OpenAI, mais elles soulèvent également des questions sur l’avenir de l’IA. OpenAI est conscient de ces limitations et travaille activement à améliorer la précision et la fiabilité de ses modèles. Cependant, la persistance de ces erreurs remet en question la capacité de l’industrie à fournir des solutions totalement fiables. Les experts soulignent que des progrès significatifs doivent être réalisés pour réduire ces hallucinations et garantir un usage sécurisé et efficace des technologies d’IA à l’avenir.

En conclusion, bien que les modèles o3 et o4-mini d’OpenAI représentent une avancée dans certains domaines, ils soulignent également la complexité et les défis persistants associés au développement de l’IA. Comment OpenAI et d’autres leaders technologiques vont-ils surmonter ces obstacles pour améliorer la fiabilité de leurs créations et restaurer la confiance des utilisateurs ?