>>Top 10 des meilleurs nez secs 2020 Aromathérapie

Les méthodes d'étude des machines sont moins chères à coacher maintenant que jamais auparavant. C’est l’affirmation d’ARK Make Investments, qui publie actuellement une méta-analyse indiquant que le prix du coaching améliore à 50 reprises le rythme de la réglementation de Moore, le précepte que l’efficacité du matériel des ordinateurs portables double tous les deux ans.

Dans son rapport, ARK a découvert que, alors que l'informatique dédiée au coaching doublait conformément à la réglementation de Moore de 1960 à 2010, le coaching calculait la complexité – la quantité de pétaflops (quadrillions d'opérations par seconde) par jour – élevée de 10 instances par an depuis 2010. Coïncidence avec cela, les prix de coaching au cours des trois dernières années diminué par 10 instances par an; en 2017, le prix pour coacher un classificateur d'images comme ResNet-50 sur un cloud public était d'environ 1000 $, alors qu'en 2019, il était d'environ 10 $.

C'est absolument de la musique pour les startups en concurrence avec des entreprises bien financées comme Google DeepMind, qui a enregistré des pertes de 572 millions de dollars au cours de la dernière année et a contracté une dette d'un milliard de dollars. Alors que certains experts considèrent que les laboratoires surpassés par les géants de la technologie sont autorisés par leurs limites à poursuivre de nouvelles analyses, il est également vrai que le coaching est une dépense inévitable dans le travail de l'IA – que ce soit dans l'entreprise, le monde universitaire ou dans tout autre cas.

Les résultats semblent être en accord avec ceux-ci – et certainement fournis par ceux-ci – dans un rapport OpenAI actuel, qui indiquait que depuis 2012, la quantité de calcul voulait entraîner un mannequin IA à l'efficacité identique dans la classification des images dans le référentiel ImageNet a diminué par un élément de deux tous les 16 mois. Conformément à OpenAI, la structure Transformer de Google a dépassé un mannequin de pointe antérieur – seq2seq, qui a également été développé par Google – avec 61 cas beaucoup moins calculés trois ans après l'introduction de seq2seq. Et AlphaZero de DeepMind, un système qui a appris de zéro comment saisir les jeux vidéo d'échecs, de shogi et de Go, a pris huit instances beaucoup moins de calcul pour correspondre à un modèle amélioré du prédécesseur du système – AlphaGoZero – un an plus tard.

VB Transform 2020 Online – 15-17 juillet. Faites partie des principaux dirigeants de l'IA: inscrivez-vous au livestream gratuit.

ARK Invest

ARK postule que la baisse des prix est attribuable à des percées chacune sur la facette du programme matériel et logiciel. Par exemple, la carte graphique V100 de Nvidia, qui a été lancée en 2017, est environ 1 800% plus rapide que sa Okay80, lancée trois ans plus tôt. (Les cartes à jouer graphiques sont généralement utilisées pour entraîner des méthodes d'IA massives.) Et entre 2018 et 2019, il y a eu une amélioration d'environ 800% de l'efficacité du coaching sur le V100 en raison des améliorations du programme logiciel du MIT, Google, Facebook, Microsoft, IBM, Uber , et d'autres.

ARK Invest

ARK prédit que sur les frais d'enchancement actuels, le prix du coaching ResNet-50 devrait tomber à 1 $. Et il prévoit que la valeur de l'inférence – exploiter un mannequin instruit dans la fabrication – diminuera parallèlement à cela, s'établissant cette année à zéro.03 $ pour exécuter un mannequin qui pourrait classer un milliard d'images. (Deux ans dans le passé, cela aurait pu coûter 10 000 $.)

ARK Invest

"Sur la base principalement du rythme de sa baisse des prix, l'IA en est à ses débuts", a écrit l'analyste d'ARK James Wang. «Tout au long de la première décennie de la réglementation de Moore, les transistors ont doublé chaque année, soit deux fois la vitesse de changement observée pendant de nombreuses années par la suite. Les baisses de prix de 10 à 100 cas que nous observons dans chaque coaching en IA et conseil en inférence en IA indiquent que l'IA est à ses balbutiements, peut-être avec de nombreuses années de développement plus lent mais soutenu.

Alors que les dépenses de coaching mannequin semblent généralement être en baisse, la croissance de la machine raffinée qui étudie les modes dans le cloud reste prohibitive, note son prix. Conformément à un récent rapport Synced, le College of Washington’s Grover, qui est conçu sur mesure pour chaque technologie et détection de fausses informations, coûte 25 000 $ à encadrer en deux semaines. OpenAI aurait accumulé 12 millions de dollars pour encadrer son mannequin de langue GPT-3, et Google a dépensé environ 6912 $ pour encadrer le BERT, un mannequin de transformateur bidirectionnel qui a redéfini la pointe pour 11 tâches de traitement du langage pur.