Nella tana del bianconiglio: come fa ChatGPT a ‘capire’ il testo?

I modelli di AI attuali possono sembrare oscuri. In questo video indaghiamo il loro funzionamento e in particolare come rappresentano testo e concetti al loro interno. 00:00 - Intro 01:08 - Tutto come numeri 02:58 - Il problema delle reti neurali 08:42 - Dimmi con chi vai e ti dirò chi sei 12:48 - Word2vec 17:42 - La potenza degli embeddings 22:31 - Vettori Contestuali 28:10 - I transformers 32:09 - Embeddings lookup 33:30 - Attention 36:22 - MLP 40:19 - Unembedding e Softmax Riferimenti: Codice per generare la visualizzazione degli embeddings: https://github.com/mensae/gensim-embe... Paper word2vec: https://arxiv.org/abs/1301.3781 Word2vec in dettaglio: enkk.me/cbow Visualizzatore di Word2Vec: https://projector.tensorflow.org/ Paper Attention is all You Need: https://arxiv.org/abs/1706.03762 Mechanistic: https://transformer-circuits.pub/ --------------------------------------------------------- Iscriviti al canale per restare aggiornato su tutte le novità del mondo dell'AI (senza hype). Le mie playlist:    • Fondamenti di AI      • Aggiornamenti AI      • Società ed AI      • Focus AI      • Le performance dell'AI   Canale Telegram - https://t.me/enkkai Twitch -   / enkk   Instagram -   / enkkgram   TikTok -   / enkkclips   Tutti i miei link - https://linktr.ee/enkk Edit by    / @coste9   | https://linktr.ee/coste9 Sigla by Pietro Cascavilla |   / pietrocascavilla   #IntelligenzaArtificiale #OpenAI #Gemini #GPT #FuturoIA #AIGenerativa #News #AggiornamentoTech #transfomers #embeddings