Autre chose sur ChatGPT. je n'aime pas les modèles prédictifs | Peter Columns

Autre chose sur ChatGPT. je n'aime pas les modèles prédictifs purs parce qu'il faut bien prendre conscience que ces modèles de langage sont absolument indifférents à ce qui est vrai ou faux. Ils sont entrainés pour correspondre à ce que l'utilisateur souhaiterait entendre. En définitif, son apprentissage dépend entièrement de ce qui lui donne son interlocuteur comme signe approbateur ou désapprobateur. C'est pour ça que son ancêtre, Tay, est devenu nazi très rapidement. Il est parfaitement possible de faire dire à ChatGPT que la Première Guerre Mondiale n'a jamais existé. Et cette indifférence, cette absence de conception de ce que peut être la vérité, cette incapacité à pouvoir sourcer une information, cette capacité même à pouvoir inventer des sources si jamais ça peut faire plaisir à l'interlocuteur, est quelque chose que je trouve de rédhibitoire chez une IA. Cela la rend difficile à déployer dans l'économie.