Sizin gibi konuşan ön yazılar — ChatGPT'nin jenerik sesi değil.

Sayın Aleph Alpha Ekibi,

Aleph Alpha'nın üretimde çalışan dil modeli servislerinde gecikme, işlem hacmi ve çıkarım güvenilirliği üzerine çalışması, kurumsal müşterilere kusursuz hizmet sağlama hedefinizle doğrudan örtüşüyor. Zalando'da öneri sıralama servisinin sahibi olarak, hem gecikmeyi hem de iş sonuçlarını iyileştiren teknik kararlar alıp uyguladım; bu tecrübe, dil modeli servislerinin üretime güvenli biçimde taşınması konusunda somut katkı sağlayabilir.

Zalando'da eski kural motorunu gömme tabanlı erişim modeline dönüştürdüğüm proje, sepete ekleme dönüşümünü %3,1 artarken p95 çıkarım gecikmesini 84 ms'den 21 ms'ye indirdi. Bu çalışmada Python ve PyTorch ile modelleri geliştirdim, çevrimiçi özellik hattını Kafka ve Redis'ten pgvector destekli bir yapıya taşırken gerçek zamanlı gecikme hedeflerini sağlamak için servis mimarisini yeniden düzenledim. Teslimatta performans ölçümüne öncelik verdim; değişiklikleri üretime almadan önce ölçümlerle riskleri yönettim ve sonuçları A/B testleriyle doğruladım. Bu proje, üretimde düşük gecikme ile iş etkisi elde etmek üzere model ve servis tasarımını nasıl dengelediğime dair açık bir örnek sunuyor.

Saygılarımla, Alex Morgan

Sayın Contentful Ekibi,

Geniş içerik havuzlarında anlamsal arama ve içerik yapısı önerileri üretmek, editörlerin çeviri yükünü azaltacak AI özelliklerini güvenle üretime taşımak gerekiyor. Contentful için bu problemlere doğrudan uygulanabilir bir çözüm getirebileceğimi düşünüyorum, çünkü Delivery Hero'da BM25 ile pgvector kombinasyonu ve cross-encoder yeniden sıralama kullandığım hibrit arama sistemiyle hem doğruluğu korudum hem de çıkarım maliyetini %47 azalttım, Zalando'da ise gömme tabanlı erişimi devreye alarak p95 çıkarım gecikmesini 84 ms'den 21 ms'ye indirdim.

Tek bir odak noktasına derinlemesine giriyorum: doğru alıntılama ve yeniden sıralamayla verimli retrieval tasarlamak. Delivery Hero projesinde 1,4 milyon geçmiş talep ve operasyon el kitabı üzerinde BM25 ve pgvector birleşimiyle bir erişim hattı kurdum, cross-encoder ile yeniden sıralama uyguladım ve sistemin sahibiydim. Bunun sonucu, sahadaki yanıt sürelerinin ortancasını 4 saat 20 dakikadan 1 saat 35 dakikaya indirmek ve çıkarım maliyetlerini önemli ölçüde düşürmek oldu. Bu çalışma, hem değerlendirme süreçlerini hem de üretime geçiş risklerini kanıta dayalı metriklerle yönettiğim yaklaşımın doğrudan bir örneğidir. Değerlendirme düzeneklerini tasarlama ve geçiş öncesi ölçüm alma alışkanlığım, yeni özelliklerin editör ve geliştirici kullanıcılar için beklenen etkisini göstermede işe yaradı.

Saygılarımla, Alex Morgan