Votre IA ne produit pas du bon code. Elle produit du code qui en a l'air.
Article intéressant "Votre LLM ne produit pas du bon code. elle produit du code qui en a l'air." => Votre code généré est une Bombe à retardement 💣
L'IA en roue libre, c'est fabriquer de la dette technique à l'échelle industrielle.
En bref, comme en langage classique, les LLM (IA) vont produire du code pour vous faire plaisir "dans la forme" et "qui semble fonctionner".
Elles produisent du code inefficace, difficile à maintenir et aux performances médiocres.
Elles cherchent à "faire plaisir", à répondre juste dans la forme, ce qui biaise leur code.
Exactement comme elles quand elles "mentent délibérément" pour brosser l'utilisateur dans le sens du poil.
Article : https://blog.katanaquant.com/p/your-llm-doesnt-write-correct-code
Pour creuser :
https://michaelbensoussan.com/posts/10x-engineer-jugement/ | L'IA, les juniors et moi. Et si j'étais juste un vieux con ?