Büyük Dil Modellerini Eğitmek: Ön Eğitim, Hizalama ve Modern Yapay Zeka Sistemlerini Ölçeklendirme

Büyük Dil Modellerini Eğitmek: Ön Eğitim, Hizalama ve Modern Yapay Zeka Sistemlerini Ölçeklendirme

Author: Miles Thornton

Description: Bir dil modeli yazıyor, sohbet ediyor, kod üretiyor; ama onu eğitenler için bu, devasa bir mühendislik problemi. Yanlış bir hiperparametre, yanlış bir veri düzeni veya ölçeklenemeyen bir strateji, milyonlarca dolarlık bir eğitimi çöpe atabilir. Modern yapay zeka sistemlerinin başarısı, büyük ölçüde ön eğitim, hizalama ve ölçeklendirme süreçlerinin ne kadar sağlam kurgulandığına bağlıdır. Bu kitap, LLM eğitiminin tüm yaşam döngüsünü uçtan uca ele alan ve geçici trendlere değil, kalıcı mühendislik ilkelerine dayanan bir kılavuzdur. Veri, parametre ve hesaplama arasındaki ödünleşimleri anlamaktan dağıtık eğitim altyapısına, ölçeklendirme yasalarından değerlendirme metriklerine kadar her aşamayı hem kuramsal hem pratik açıdan işler. Amacı, okuyucuyu kendi eğitim hatlarını tasarlayabilecek ve karşılaştığı problemleri teşhis edebilecek bir düzeye taşımaktır. • Veri, parametre ve hesaplama arasındaki ilişkiyi kurarak eğitim bütçenizi verimli dağıtmayı öğrenirsiniz. • Ön eğitim hedeflerinin (otoregresif, maskeli, gürültü giderme) model davranışına etkisini kavrarsınız. • Modern optimizasyon teknikleri (AdamW, öğrenme oranı çizelgeleri) ile eğitim stabilitesini sağlama yöntemlerini görürsünüz. • Kaplan ve Chinchilla ölçeklendirme yasalarını kullanarak model boyutu ve token sayısı dengesini optimal biçimde belirlersiniz. • ZeRO, FSDP ve paralellik stratejileriyle büyük modelleri birden fazla GPU'ya dağıtma becerisi kazanırsınız. • Kıyaslama, insan ve model tabanlı değerlendirme metotlarıyla modelinizi doğru şekilde test eder, halüsinasyon ve veri kirlenmesi gibi riskleri yönetirsiniz. Bu içerik, yalnızca büyük ölçekli laboratuvarlar için değil; sınırlı bütçeyle çalışan ekipler, araştırmacılar, kendi modellerini eğitmek isteyen startup'lar ve yapay zeka alanında sağlam bir temel kazanmak isteyen herkes için değerlidir. Kitap, okuyucunun ön bilgisini varsaysa da, karmaşık kavramları adım adım ve sistem kısıtlamalarını gözeterek açıklar. LLM eğitimi bir bilimden çok sanat olabilir, ama bu sanatın kurallarını öğrenmek, uygulama maliyetinizi ve riskinizi ciddi ölçüde azaltır. Elinizdeki kitap, bu kuralların derli toplu ve uygulanabilir bir haritası.

AI summary: Bu kitap, büyük dil modellerinin (LLM) eğitim sürecini uçtan uca ele alır: ön eğitim, hizalama ve modern yapay zeka sistemlerinin ölçeklendirilmesi. Veri, parametre ve hesaplama arasındaki ödünleşimleri, ölçeklendirme yasalarını, dağıtık eğitim tekniklerini ve değerlendirme yöntemlerini kapsar. Hedef kitlesi, makine öğrenimi mühendisleri, araştırmacılar ve kendi modellerini eğitmek isteyen profesyonellerdir. Kitap, kalıcı mühendislik ilkelerine odaklanarak okuyucuya kendi eğitim hatlarını tasarlama ve karşılaşılan problemleri teşhis etme becerisi kazandırmayı amaçlar.

Uygun okuyucu

Makine öğrenimi mühendisleri, yapay zeka araştırmacıları, veri bilimciler ve kendi LLM'lerini eğitmek veya ölçeklendirmek isteyen profesyoneller.

Okur profili

Büyük dil modelleri üzerinde çalışan, sınırlı hesaplama bütçesiyle verimli eğitim stratejileri geliştirmek isteyen ve model eğitimi sürecinin tüm aşamalarını derinlemesine anlamak isteyen bir mühendis.

Arama amacı

Okuyucular, büyük dil modellerini eğitmenin tüm aşamalarını öğrenerek kendi eğitim hatlarını tasarlayabilecekleri pratik ve teorik bilgiye sahip bir kaynak arıyor.

Özgün açı

Bu kitap, geçici model trendlerinden ziyade kalıcı mühendislik ilkelerine ve ölçeklendirme yasalarına odaklanarak, okuyuculara kendi eğitim hatlarını tasarlayabilme yetkinliği kazandıran kapsamlı bir başvuru kaynağıdır.

İçerik türü

technical engineering guide

Kısa özet

• Bu kitap, büyük dil modellerini eğitmek için gereken tüm aşamaları kapsar: veri hazırlama, ön eğitim hedefleri, optimizasyon, ölçeklendirme, dağıtık eğitim ve değerlendirme.
• Kitabın hedef kitlesi, LLM eğitimiyle ilgilenen makine öğrenimi mühendisleri, yapay zeka araştırmacıları ve veri bilimcileridir; aynı zamanda sınırlı kaynaklarla çalışan ekipler için de değerlidir.
• Ölçeklendirme yasaları (Kaplan ve Chinchilla) sayesinde okuyucu, model boyutu ve token sayısı dengesini optimal şekilde belirlemeyi öğrenir.
• Kitap, ZeRO, FSDP ve paralellik stratejileriyle büyük modellerin birden fazla GPU'ya nasıl dağıtılacağını ayrıntılı olarak açıklar.

Key topics: LLM eğitim yaşam döngüsü, Ön eğitim hedefleri, Optimizasyon teknikleri, Ölçeklendirme yasaları, Dağıtık eğitim sistemleri, Model değerlendirme, Denetimli ince ayar, Hizalama, Veri ve hesaplama yönetimi

Entities: Büyük Dil Modelleri (LLM), Ön Eğitim, Hizalama (Alignment), Ölçeklendirme, Dağıtık Eğitim, ZeRO, FSDP, AdamW, Ölçeklendirme Yasaları (Kaplan, Chinchilla), Perpleksite, Halüsinasyon, LLM-as-a-Judge

Karşılanan ihtiyaçlar

• Sınırlı hesaplama bütçesiyle verimli eğitim stratejisi tasarlama
• Eğitim sırasında karşılaşılan kararlılık sorunlarını teşhis etme
• Büyük modelleri tek GPU belleğine sığdıramama
• Model performansını doğru metriklerle değerlendirme
• Ön eğitimden ince ayara geçişte veri kalitesini yönetme

Şunlar için oku

• Makine öğrenimi mühendisleri
• Yapay zeka araştırmacıları
• Veri bilimcileri
• Yapay zeka startup'larında çalışan teknik ekipler
• Kendi LLM'ini eğitmek isteyen profesyoneller

Şu durumda uygun olmayabilir

• LLM eğitimine yeni başlayan ve derin teknik bilgi istemeyenler
• Yalnızca popüler AI araçlarını kullanan son kullanıcılar
• Matematik ve programlama altyapısı olmayanlar

İçindekiler

1. Giriş (introduction)
2. LLM Eğitim Yaşam Döngüsünü Anlamak (part)
3. Veri Setinden Eğitilmiş Modele (chapter)
4. LLM Eğitim Hattı (section)
5. Veri, Parametreler ve Hesaplama (section)
6. Ön Eğitim, Son Eğitim ve Uyum Sağlama (section)
7. Eğitim Hedefleri (section)
8. Eğitim Başarısını Tanımlama (section)
9. Eğitim Hesaplama Kaynaklarını Anlamak (chapter)
10. FLOP'lar ve Eğitim İş Yükleri (section)
11. GPU Belleği (section)
12. Verim ve Kullanım Oranı (section)
13. Eğitim Süresi ve Maliyeti (section)
14. Ölçekte Hesaplama Kısıtlamaları (section)
15. Bir Eğitim Stratejisi Tasarlamak (chapter)
16. Model Boyutu ve Mimarisi (section)
17. Veri Seti Boyutu ve Token Bütçesi (section)
18. Hesaplama Bütçeleri (section)
19. Eğitim Süresi (section)
20. Kalite, Maliyet ve Zaman Ödünleşimleri (section)
21. Dil Modellerini Ön Eğitime Tutmak (part)
22. Otoregresif Dil Modelleme (chapter)
23. Sonraki Token Tahmini (section)
24. Koşullu Dil Modelleme (section)
25. Bağlam ve Dizi Oluşturma (section)
26. Öğretmen Zorlaması (Teacher Forcing) (section)
27. Otoregresif Eğitim Dinamikleri (section)
28. Maskeli ve Gürültü Giderme Hedefleri (chapter)
29. Maskeli Dil Modelleme (section)
30. Span Bozulması (Span Corruption) (section)
31. Gürültü Giderme Hedefleri (section)
32. Kodlayıcı-Kod Çözücü Ön Eğitimi (section)
33. Ön Eğitim Hedeflerini Karşılaştırma (section)
34. Eğitim Verisi Dizileri (chapter)
35. Belgeler ve Token Akışları (section)
36. Dizi Uzunluğu (section)
37. Paketleme ve Birleştirme (section)
38. Dolgulama ve Maskeleme (section)
39. Verimli Batch Oluşturma (section)
40. Dil Modelleri için Kayıp Fonksiyonları (chapter)
41. Çapraz Entropi Kaybı (section)
42. Negatif Log-Olabilirlik (section)
43. Perpleksite (section)
44. Token Düzeyine Karşı Dizi Düzeyi Kayıp (section)
45. Eğitim Kaybını Yorumlama (section)
46. Optimizasyon ve Eğitim Dinamikleri (part)
47. Gradyan Tabanlı Optimizasyon (chapter)
48. Gradyan İniş (section)
49. Stokastik Gradyan İniş (section)
50. Mini-Batch Optimizasyonu (section)
51. Momentum (section)
52. Büyük Sinir Ağlarında Optimizasyon (section)
53. Adam, AdamW ve Modern Optimizatörler (chapter)
54. Uyarlanabilir Öğrenme Oranları (section)
55. Adam (section)
56. Ağırlık Sönümü (Weight Decay) (section)
57. AdamW (section)
58. Optimizatör Ödünleşimleri (section)
59. Öğrenme Oranı Stratejileri (chapter)
60. Öğrenme Oranları Neden Önemlidir? (section)
61. Isınma (Warmup) (section)
62. Doğrusal ve Kosinüs Sönümü (section)
63. Sabit ve Döngüsel Çizelgeler (section)
64. Bir Eğitim Çizelgesi Seçme (section)
65. Eğitim Kararlılığı (chapter)
66. Kaybolan ve Patlayan Gradyanlar (section)
67. Gradyan Kırpma (section)
68. Başlatma ve Normalizasyon (section)
69. Kayıp Sıçramaları (Loss Spikes) (section)
70. Kararsız Eğitimi Teşhis Etme (section)
71. Hassasiyet ve Sayısal Kararlılık (chapter)
72. FP32 (section)
73. FP16 (section)
74. BF16 (section)
75. Kayıp Ölçeklendirme (Loss Scaling) (section)
76. Hassasiyet Ödünleşimleri (section)
77. Ön Eğitimi Ölçeklendirme (part)
78. Ölçeklendirme Yasaları (chapter)
79. Parametreler, Veri ve Hesaplama (section)
80. Kaplan Ölçeklendirme Yasaları (section)

Sık sorulan sorular