Önce hangi kararın destekleneceğini tanımlarız
Teknik dokümanda bir toleransı bulmak, sözleşmedeki yükümlülüğü sınıflandırmak ve çağrı kaydını özetlemek farklı hata maliyetlerine sahiptir. Çalışmaya kullanıcı rolü, veri sahibi, yanıtın kullanılacağı süreç ve yanlış yanıtın etkisiyle başlanır. Model seçimi bu çerçeveden sonra gelir; her işi büyük bir üretken modele taşımak gerekli değildir.
Başlangıç çıktısı bir görev sözleşmesidir: kabul edilen girdiler, beklenen çıktı şeması, kaynak gösterme gereksinimi, gecikme bütçesi ve insan incelemesine aktarılacak durumlar yazılır. Böylece araştırma başarısı yalnızca etkileyici bir demo üzerinden değerlendirilmez; hangi koşulda hangi kararın desteklenebileceği açıklığa kavuşur.
Veri hazırlama: belgeyi parçalamak yeterli değildir
PDF, tablo, e-posta ve konuşma dökümleri aynı ayrıştırma yöntemiyle işlenmez. Belge kimliği, sürüm, sayfa veya zaman aralığı, dil ve erişim grubu kaynak kaydına eklenir. OCR hataları, Türkçe karakterler, ölçü birimleri ve tablodan kopan başlıklar örnekleme ile incelenir. Aynı talimatın eski ve yeni sürümleri birbirinden ayrılır.
Eğitim ve değerlendirme ayrımı belge parçaları düzeyinde rastgele yapılırsa aynı belgenin neredeyse aynı cümleleri iki tarafta bulunabilir. Ayrım belge ailesi, müşteri veya zaman dilimi gibi gerçek kullanım sınırlarına göre tasarlanır. Hassas verilerin kullanım kapsamı, saklama süresi ve ayıklama kuralları araştırma veri kümesi hazırlanırken belirlenir.
RAG, ince ayar ve küçük modelleri karşılaştırırız
Sık güncellenen bilgi için erişim kontrollü bilgi getirme yaklaşımı incelenir; istenen çıktı biçimi veya uzmanlık dili için ince ayar ayrı bir deney olarak ele alınır. İnce ayarın güncel belge deposunun yerini alacağı varsayılmaz. Terim çıkarımı, varlık tanıma ve yönlendirme gibi sınırlı görevlerde daha küçük modellerin maliyet ve açıklanabilirlik avantajları da ölçülür.
Karşılaştırmada aynı sorular, aynı belge sürümleri ve aynı yetki bağlamı kullanılır. Parça boyutu, yeniden sıralama, bağlam uzunluğu ve yanıt şablonu birlikte değiştirildiğinde iyileşmenin hangi etkenden geldiği anlaşılamaz. Deney günlüğü bu değişkenleri ayrı izler; kazanç, maliyet ve başarısızlık sınıfları aynı raporda yer alır.
Yanıt doğruluğu, kaynak desteği ve çekimserlik
Bilgi getirme başarısı ile son yanıtın doğruluğu ayrı ölçülür. Doğru pasaj bulunmuş olsa bile model birimi değiştirebilir veya koşulu atlayabilir. Değerlendirme kümesinde normal soruların yanında cevapsız, çelişkili, eski sürüme ait ve kullanıcının yetkisi dışındaki sorular bulunur. Kaynak bağlantısının varlığı, kaynağın iddiayı gerçekten desteklediği anlamına gelmez.
Örneğin tamamen varsayımsal 100 soruda 60 doğru yanıt, 5 yanlış yanıt ve 35 çekimserlik varsa yanıtlananlar üzerindeki doğruluk 60/65 ≈ %92,3; yanıt kapsamı %65 olur. Tek oran bu iki durumu anlatmaz. Kritik hata sayıları ve soru grupları ayrıca raporlanır; yüksek puan, erişim ihlalini kabul edilebilir yapmaz.
Güven sınırları ve işletim maliyeti
Getirilen belge içeriği sistem talimatı gibi çalıştırılmaz. Kullanıcı ve belge yetkileri arama aşamasında uygulanır; sonradan yanıttan kelime silmek bir erişim denetimi değildir. Araç çağırabilen sistemlerde model önerisi ile işlem yetkisi ayrılır. Girdi, çıktı ve kayıtların hangi ortamdan geçtiği proje veri sınıflandırmasına göre belirlenir.
İşletim değerlendirmesi ortalama gecikmeyle sınırlanmaz: yoğunluk altında kuyruk, uzun belgeler, eşzamanlı istekler ve zaman aşımı davranışı ölçülür. Belge ve model sürümleri değiştiğinde aynı değerlendirme tekrar çalıştırılır. Kullanıcı geri bildirimi yeni test vakasına dönüştürülür; incelenmemiş konuşmalar otomatik eğitim verisi yapılmaz.
Alan bilgisi gerçekten öğrenildi mi?
Bir teknik terimi doğru tekrar etmek, anlamını doğru kullandığını göstermez. Değerlendirmede aynı kavram farklı cümlelerle sorulur; birimin, olumsuzluğun ve koşulun değiştiği karşı örnekler hazırlanır. Türkçedeki ekler, kısaltmalar ve yazım çeşitleri için ayrı dilimler tutulur. Örneğin bir parçanın yalnızca belirli sıcaklıkta geçerli toleransını soran görevde modelin koşulu atlaması hata sayılır. Cevap uzunluğu veya anahtar kelime varlığı bu anlam hatasını yakalamayabilir; değerlendirme gerekçesi iddia düzeyine iner.
Bilgi getirme için gerekli kanıtın ilk sonuçlar arasında bulunması incelenirken, son yanıtta doğru kanıtın kullanılması ayrı ölçülür. Doğru pasaj verildiğinde yanıt düzeliyorsa darboğaz aramada olabilir; kusursuz bağlamla da hata sürüyorsa model veya yanıt sözleşmesi incelenir. Bu kontrollü ayrıştırma, her başarısızlığı daha büyük model seçerek çözmeye çalışmaktan daha açıklayıcıdır. Karşılaştırmalar aynı belge ve soru sürümüyle yapılır; birden fazla değişkenin birlikte değiştirilmesi neden-sonuç yorumunu sınırlar.
Dil analizi görevlerinde varlık türleri ve terim sözlüğü iş akışına göre tanımlanır. Bir ürün kodu, ölçü değeri ve kişi adı aynı sınıf değildir. Uzmanların uyuşamadığı örnekler ayrı incelenir; etiketleme rehberi güncellenirse önceki sonuçların hangi sürüme ait olduğu korunur. Çıktının uygulama şemasına uyması doğrulukla karıştırılmaz: geçerli JSON içinde yanlış bir ölçü bulunabilir. Şema kontrolü ile anlam kontrolü ayrı kabul adımları olmalıdır.
| Deney | Ölçüm | Yorum sınırı |
|---|---|---|
| Doğru bağlamı elle verme | Yanıt hatasının değişimi | Arama başarısını tek başına ölçmez |
| Türkçe terim ve ek çeşitleri | Görev türüne göre hata | Genel dil yetkinliği garantisi değil |
| Yetkiyi kaldırıp tekrar sorgulama | Sonuç, özet ve önbellek görünürlüğü | Tek rol testi yeterli değil |
Birlikte hangi çıktıları tanımlarız?
Çalışma kapsamı; görev tanımı, veri envanteri, referans yöntem, karşılaştırmalı deney raporu, hata sınıfları ve kontrollü pilot için kabul ölçütleri üzerinden kurulabilir. Araştırma çıktısı bir ürünün bütün özellikleriyle hazır olduğu anlamına gelmez. Kuruma özgü entegrasyon, donanım ihtiyacı ve bakım sorumluluğu teknik ön çalışma ile netleştirilir.
Gokbilge Tech'in katkısı, dil modelini tek başına sunmakla sınırlı olmayan yazılım ve sistem mühendisliğidir. Veri hattı, yetki sınırları, ölçüm düzeni ve iyileştirme çevrimi birlikte tasarlanır. İlk görüşmede örnek bir iş akışı ve paylaşılabilir anonim belge kümesi üzerinden hangi soruların ölçülebilir biçimde cevaplanabileceğini belirleyebiliriz.
Teknik kaynaklar
Araştırma probleminizi birlikte tanımlayalım.
Teknik ihtiyacınızı paylaşın →


