На llm-visualized.com доступна интерактивная визуализация GPT-2. Она поможет понять работу трансформеров.