Messages de LeCreateurKJ

05/03/2023 00:25

Le 05 mars 2023 à 00:16:46 :
Le 05 mars 2023 à 00:07:33 :
Le 05 mars 2023 à 00:02:15 :
Le 04 mars 2023 à 23:53:40 :
Le 04 mars 2023 à 23:48:53 :
> Le 04 mars 2023 à 23:42:37 :
>Alors ça fait quoi d'avoir des performances horribles les pythonneux?
Ne pas utiliser les lib python qui elles même s'appuient sur les lib Java et c++ et ont des perf équivalentes, naturelle
Tu peux aussi utiliser les libs en C++ directement
Bien sûr, je vais me faire chier à utiliser c++ pour fine tune une ia que je peux fine tune en 20 lignes de code python qui s'appuie sur hugging face à performances égales
Utiliser des vieux { dégueulasses
Devoir debugger des erreurs de compilations pendant des heures
Faire la définition des fonctions dans un fichier h comme un gros cuck
Expliquer à mon manager pourquoi j'ai mis une semaine à faire un dashboard de démonstration
Et en plus il est moche (alors qu'avec dash + plotly il est bouclé en 1h )
Il suffit d'import ta lib en C++ et t'auras toujours 20 ou 30 lignes de code
Mais avec si peu de code, tu n'es pas un programmeur mais un utilisateur
Comme quelqu'un qui fait un script bash pour utiliser un programme comme il le souhaite
Pas besoin de 10000 classes pour une fonction de 20 lignes
Pas besoin de plus de Debug en C++ quand on connait comment fonctionne un ordi
En revanche, python peut accepter n'importe quelle connerie avant l'exécution, ce qui peut causer des problèmes à cause d'une erreur débile de syntaxe
Ton dashboard, c'est juste un effet de groupe qui donne plus de libs à python, rien d'inhérent au langage
Donne moi un script c++ qui fine tune un modèle T5-base en 20 lignes stp, j'attends
On s'en fout que ça soit un effet de groupe ou non, c'est là. D'ailleurs l'effet de groupe a été causé par quoi ? Par la simplicité, la lisibilité des codes python, qui est inhérent au langage par le forcing de l'indentation

Un "script c++" :rire:
C++ n'est pas un langage de script comme Python ou Bash mais un langage de programmation :rire:
Plus tu ne fais absolument rien avec ton Python et ton modèle d'IA, tu ne fais que reporter des valeurs dans des librairies
Le vrai code est fait en C++ derrière, et ça tu ne sais pas comment ça marche

Le principe de fonctionnement d'une IA

05/03/2023 00:19

Alors comment fonctionne un réseau de neurones pour apprendre. Voici le secret de l'apprentissage et de l'intelligence :

C'est l'algorithme du gradient qui fait tout.
Pour visualiser, imaginez vous sur une montagne, et vous devez trouvez la distance pour descendre, alors en regardant le sol, vous voyez le sens de la pente. Il vous suffit donc d'aller dans le sens de la descente en suivant la direction de la pente en faisant un certain pas, puis de répéter et ainsi de suite, jusqu'à arriver dans une vallée ou un trou.
Pour l'IA, c'est pareil, sauf que la position horizontale correspond à des coefficients qui agissent sur la manière dont fonctionne le réseau et la position verticale, c'est l'erreur. Ainsi, en regardant de combien contribut chaque coefficient à commettre une erreur à chaque itération, puis en descendant la pente de l'erreur, on arrive à un minimum local d'erreur si le pas est bien choisi.
C'est ça l'algorithme du gradient utilisé en intelligence artificielle mais avec des millions voir milliards de dimensions.

Mathématiquement, cela se traduit par l'utilisation de dérivées partielles et du théorème de Schwarz avec les hypothèses de régularités supposées vérifiées pour calculer le gradient puis le soustraire par un pas fixé.