Как бесплатный сайт Twitter?!

Если вы увлекаетесь машинным обучением и глубоким обучением, вы можете получить полное образование в Twitter.

Проверьте этих создателей:

Давайте посмотрим на их работу!

🎨 В этой теме Жан де Ньяндви подробно рассказывает о ConvNets!

Переход от плотных сетей к сверточным слоям на секретном механизме глубокого обучения объединенных слоев.

Делитесь отличными курсами и ресурсами на этом пути!

Изображение, которое вы видите ниже, представляет собой типичную архитектуру сверточных нейронных сетей, также известных как ConvNets.

ConvNets – это архитектура типа нейронной сети, которая в основном используется в задачах распознавания изображений.

Подробнее о ConvNets 🧵🧵

Изображение предоставлено: CS 231n pic.twitter.com/fWTMiOUP4r

– Жан де Ньяндви (@Jeande_d) 2 декабря 2021 г.

🔎 Но недавно ConvNets были свергнуты Трансформерами!

В этой теме Абхишек Тхакур (4x @Kaggle Grandmaster & Huggingface autoNLP)

подробно описывает реализацию трансформаторов в @PyTorch!

Реализация «Внимание — это все, что вам нужно» с нуля в PyTorch. Тема в Твиттере:
1/

- abhishek (@abhi1thakur) 13 декабря 2021 г.

🤝 Трансформеры и ConvNets объединяет один игрок!

Функция Softmax (в большинстве случаев).

Сантьяго Вельдаррама пишет несколько эпических тредов (вы, наверное, видели).

Совсем недавно начали делиться этими аккуратными 30-секундными визуальными эффектами по основным концепциям машинного обучения:

Softmax — одна из самых популярных функций активации.

Вот 30-секундное введение в него. pic.twitter.com/cgwWR1vQS9

– Сантьяго (@svpino) 15 января 2022 г.

✒️ А как отправить текст в Transformer или ConvNet?!

Изображения легко, не так ли? Это просто матрицы.

Для текста вам нужно что-то под названием Text Embedding, которое преобразует ваши слова в числа.

Итак, Луис Густаво создал тему о встраиваниях:

Модели вроде #AlphaCode, #LaMDA, #Copilot, #GPT, #CLIP, #DALL-e зависят от очень важного понятия:

➡️Встраивание текста

Но знаете ли вы, что такое встраивание текста и как его создать?
Нужно ли вообще его создавать?

Давайте посмотрим…

[1,32 мин.]
[Это хорошо!👀]

1/9🧵

- Luiz GUstavo 💉💉💉🎉 (@gusthema) 3 февраля 2022 г.

🛠️ Наконец-то вам нужны подходящие инструменты для обучения ваших моделей, верно?

Филип Воллет находит библиотеки и приложения до того, как они станут крутыми.

Случайно подвергли DDOS несколько веб-сайтов, поделившись ими.

Может быть, последний Tuner смешал с автоматическим выбором функций с помощью Shap?

shap-hypetune пакет Python для одновременной настройки гиперпараметров и выбора функций для моделей повышения градиента!

pip install shap-hypetune

Не забудьте отметить репозиторий звездочкой! https://t.co/UYV4GA432t pic.twitter.com/REybOPVX6f

– Филип Воллет (@philipvollet) 31 января 2022 г.

TL;DR

В этой теме я поделился информацией о 5 лучших создателях машинного обучения в Твиттере о:

  • ConvNets
  • Трансформеры
  • Софтмакс
  • Встраивание текста
  • Отличные инструменты (настройка гиперпараметров с выбором функций на основе формы!)

Первоначально опубликовано на https://dramsch.net 3 февраля 2022 г.