Je suis chercheur en intelligence artificielle 🤖 (Deep lourning)

julia

Le 15 juin 2022 à 23:12:26 :

Le 15 juin 2022 à 23:07:22 :

Le 15 juin 2022 à 23:04:23 :

Le 15 juin 2022 à 23:01:58 :

Le 15 juin 2022 à 23:00:25 :

Le 15 juin 2022 à 22:57:35 :

Le 15 juin 2022 à 22:52:08 :

Le 15 juin 2022 à 22:51:50 :
quel est le meilleur optimizer de maniere generale ?

Adam(lr=3e-4)

T'entraine quoi avec ce lr ?
Perso sur un transformer à 5e-5 c'est déjà assez et je converge mieux qu'avec 1e-4 par ex

et pk pas un LR variable.
pk pas faire un model et le DL pour donner un meilleur dl ?

Adam marche souvent bien
Adam est déjà un LR adaptatatif
Mais c'est un gros problème c'est vrai, il y a des dizaines de papiers qui proposent des solutions mais c'est souvent décevant

Dans mon cas ce qui a toujours marché le mieux c'est un OneCycle lr, qui part de quasi 0 puis monte à 5e-5 pendant 5k / 20k steps (selon la batch size) puis redescend
Ca converge super vite, et mieux qu'avec les autres schedulers (plateau, cyclical ...)

donc une sorte de logistic mais Lr.
genre
lr = 1 / (1 + exp(-batch)) * 5e-5

?

Non je vais évoluer le lr selon un cycle pré défini
Avec ça https://pytorch.org/docs/stable/generated/torch.optim.lr_scheduler.OneCycleLR.html
L'idée vient de ce papier https://arxiv.org/abs/1708.07120

2018 en plus

Le 15 juin 2022 à 23:16:03 :

Le 15 juin 2022 à 23:04:58 :

Le 15 juin 2022 à 23:00:28 :

Le 15 juin 2022 à 22:57:21 :
les gens du milieux aimeraient une nouvelle lib 100x plus simple de DL que les kernel de tensorflow / caffee ... ?
Les gens savent programmer en C/C++ (bien) dans le domaine ou c'est vraiment full python ?

Tu peux te débrouiller en full python
Mais si tu veux faire des extensions c++ et kernels cuda et bien faut savoir coder en c. Ceux qui développent PyTorch jax etc par exemple

bah justement perso je n'avais aucune envie d'apprendre les libs d'IA et ça fait 2 ans que je fais ma lib de deep learning. J'ai commencé avec du Python et juste des reseaux de neurones, mtn je fait tt C/Cuda.
Et je veux savoire si y a d'autres personnes comme ça, et si les gens dans la haute sphere de l'IA seraient fatigué par ce Python et voudraient s'evader vers des choses bcp plus basique/simple et from scratch

Y'a peut de chance non
L'avantage de python c'est que c'est très facile à apprendre, utiliser et surtout debugger
Et comme tu peux bind n'importe quoi en c / cuda y'a peu d'intérêt selon moi à se passer du python. Toutes les opérations basiques ou générales sont exécutées en c / cuda, depuis du python. En plus y'a des librairie (jax et numba) qui compilent du code python en C a la volée

Certains parlent de Julia qui permet d'allier les avantages de python et c, mais python est déjà tellement bien installé que je le vois pas se faire remplacer

ok bah c'est claire, de toute façon je n'avais pas trop d'espoire

C'est quoi le meilleur modèle utilisé généralement pour la prédication de séries temporelles comme celui du prux d'une action ?

Les modèles SARIMA, ARIMA ne fonctionnent pas pour ce genre de prévisions

Le 15 juin 2022 à 23:21:28 :
C'est quoi le meilleur modèle utilisé généralement pour la prédication de séries temporelles comme celui du prux d'une action ?

Les modèles SARIMA, ARIMA ne fonctionnent pas pour ce genre de prévisions

Le prix d'une action Bonne chance si t'es pas chez Citadel

Le 15 juin 2022 à 23:25:34 :

Le 15 juin 2022 à 23:21:28 :
C'est quoi le meilleur modèle utilisé généralement pour la prédication de séries temporelles comme celui du prux d'une action ?

Les modèles SARIMA, ARIMA ne fonctionnent pas pour ce genre de prévisions

Le prix d'une action Bonne chance si t'es pas chez Citadel

Pourquoi tu go pas te faire des couilles en finance ?

As-tu un lien pour qu'on puisse tester une IA sympa ?https://image.noelshack.com/fichiers/2017/30/4/1501185683-jesusjournalbestreup.png

Pour quand les robots qui vont nous battre sur le jeux plus complexe que le go ou les échecs ?https://image.noelshack.com/fichiers/2017/13/1490886827-risibo.png
Je précise jeux de stratégie ( Total war ou Civ) Ce serai le rêve bordel

Le 15 juin 2022 à 23:27:25 :

Le 15 juin 2022 à 23:25:34 :

Le 15 juin 2022 à 23:21:28 :
C'est quoi le meilleur modèle utilisé généralement pour la prédication de séries temporelles comme celui du prux d'une action ?

Les modèles SARIMA, ARIMA ne fonctionnent pas pour ce genre de prévisions

Le prix d'une action Bonne chance si t'es pas chez Citadel

Pourquoi tu go pas te faire des couilles en finance ?

car c'est grace a ca que la france coule.
Toutes les tetes vont faire de la finance au lieu de sauver leur pays

Le 15 juin 2022 à 23:28:52 :
Pour quand les robots qui vont nous battre sur le jeux plus complexe que le go ou les échecs ?https://image.noelshack.com/fichiers/2017/13/1490886827-risibo.png

StarCraft II

Le 15 juin 2022 à 23:27:27 :
As-tu un lien pour qu'on puisse tester une IA sympa ?https://image.noelshack.com/fichiers/2017/30/4/1501185683-jesusjournalbestreup.png

https://transformer.huggingface.co/

Le 15 juin 2022 à 23:29:00 :

Le 15 juin 2022 à 23:27:25 :

Le 15 juin 2022 à 23:25:34 :

Le 15 juin 2022 à 23:21:28 :
C'est quoi le meilleur modèle utilisé généralement pour la prédication de séries temporelles comme celui du prux d'une action ?

Les modèles SARIMA, ARIMA ne fonctionnent pas pour ce genre de prévisions

Le prix d'une action Bonne chance si t'es pas chez Citadel

Pourquoi tu go pas te faire des couilles en finance ?

car c'est grace a ca que la france coule.
Toutes les tetes vont faire de la finance au lieu de sauver leur pays

En même temps il y a pas de postes de chercheurs

Le 15 juin 2022 à 23:30:05 :

Le 15 juin 2022 à 23:28:52 :
Pour quand les robots qui vont nous battre sur le jeux plus complexe que le go ou les échecs ?https://image.noelshack.com/fichiers/2017/13/1490886827-risibo.png

StarCraft II

Bordel je rêverai de voir ça sur un Civ ou Total war, des nouvelle stratégies innovante

Le 15 juin 2022 à 23:31:10 :

Le 15 juin 2022 à 23:29:00 :

Le 15 juin 2022 à 23:27:25 :

Le 15 juin 2022 à 23:25:34 :

Le 15 juin 2022 à 23:21:28 :
C'est quoi le meilleur modèle utilisé généralement pour la prédication de séries temporelles comme celui du prux d'une action ?

Les modèles SARIMA, ARIMA ne fonctionnent pas pour ce genre de prévisions

Le prix d'une action Bonne chance si t'es pas chez Citadel

Pourquoi tu go pas te faire des couilles en finance ?

car c'est grace a ca que la france coule.
Toutes les tetes vont faire de la finance au lieu de sauver leur pays

En même temps il y a pas de postes de chercheurs

non mais au lieux d'aller faire de l'IA, de la finance, aller faire de la science pour construire des industrie pour la france et financer des projets politiques qui sauvent la france.

Le 15 juin 2022 à 23:32:17 :

Le 15 juin 2022 à 23:31:10 :

Le 15 juin 2022 à 23:29:00 :

Le 15 juin 2022 à 23:27:25 :

Le 15 juin 2022 à 23:25:34 :

Le 15 juin 2022 à 23:21:28 :
C'est quoi le meilleur modèle utilisé généralement pour la prédication de séries temporelles comme celui du prux d'une action ?

Les modèles SARIMA, ARIMA ne fonctionnent pas pour ce genre de prévisions

Le prix d'une action Bonne chance si t'es pas chez Citadel

Pourquoi tu go pas te faire des couilles en finance ?

car c'est grace a ca que la france coule.
Toutes les tetes vont faire de la finance au lieu de sauver leur pays

En même temps il y a pas de postes de chercheurs

non mais au lieux d'aller faire de l'IA, de la finance, aller faire de la science pour construire des industrie pour la france et financer des projets politiques qui sauvent la france.

L' IA c'est le futur de demain

Le 15 juin 2022 à 22:06:04 :
Preuve: ma qualification aux fonctions de maitre de conférences
https://image.noelshack.com/fichiers/2022/24/3/1655323544-qualif.png

Félicitations

Le 15 juin 2022 à 23:32:17 :

Le 15 juin 2022 à 23:31:10 :

Le 15 juin 2022 à 23:29:00 :

Le 15 juin 2022 à 23:27:25 :

Le 15 juin 2022 à 23:25:34 :

Le 15 juin 2022 à 23:21:28 :
C'est quoi le meilleur modèle utilisé généralement pour la prédication de séries temporelles comme celui du prux d'une action ?

Les modèles SARIMA, ARIMA ne fonctionnent pas pour ce genre de prévisions

Le prix d'une action Bonne chance si t'es pas chez Citadel

Pourquoi tu go pas te faire des couilles en finance ?

car c'est grace a ca que la france coule.
Toutes les tetes vont faire de la finance au lieu de sauver leur pays

En même temps il y a pas de postes de chercheurs

non mais au lieux d'aller faire de l'IA, de la finance, aller faire de la science pour construire des industrie pour la france et financer des projets politiques qui sauvent la france.

Il faut un environnement pour ça

Avec tout le déploiement 5G pourquoi on n'a pas déjà des robots connectés intelligents qui pourraient servir de guide ou autre ?

Le 15 juin 2022 à 23:35:01 :
Avec tout le déploiement 5G pourquoi on n'a pas déjà des robots connectés intelligents qui pourraient servir de guide ou autre ?

c'est limité par plein de choses, notamment le hardware

Par contre l'OP sérieusement faut entrainer des IA sur CIV pour remplacer nos politiciens ASAP, c'est plus possible lahttps://image.noelshack.com/fichiers/2018/29/6/1532128784-risitas33.png