Yapay zekâ yazdığı cümleyi nereden buluyor?

Kullanmadığınız bisikleti satacaksınız. Bir sohbet uygulamasına üç bilgi veriyorsunuz: “Mavi şehir bisikleti. Yedi vites. İki yıldır kullanılıyor.” Ardından kısa bir ilan istiyorsunuz.

Karşınıza şöyle bir taslak çıkabilir: “Satılık: İki yıldır kullanılan, yedi vitesli mavi şehir bisikleti.” “Daha samimi yaz” dediğinizde cümle değişir. Peki, uygulama bu cümleyi bir yerden mi buldu, o anda mı oluşturdu?

Bu kurgusal örnekte, üç kısa bilginin yeni bir cümleye dönüşmesini izliyoruz.

Metin üreten bir dil modelinin temel işi, her istekte internette hazır bir ilan arayıp yapıştırmak değildir. Öğrenme sırasında metinlerde edindiği ilişkilerden yararlanarak, kendisine verilen isteğe uygun bir devam oluşturabilir. Bir uygulama ayrıca arama yapabilir; ancak arama ile metin üretmek farklı işlemlerdir.

Bir rakamı tanıyan model, görüntünün hangi rakama karşılık geldiğini tahmin ediyordu. Buradaki model ise yazının nasıl devam edebileceğine ilişkin tahminler kullanıyor. İkisinde de örneklerden öğrenme var; yaptıkları iş farklı.

Yeni metin, görsel veya ses gibi içerikler oluşturan sistemler için üretken yapay zekâⓘ — kısa açıklama adını kullanıyoruz. Bu bir şemsiye kavram. Burada özellikle metni parça parça oluşturan dil modellerine bakıyoruz; bütün görsel ve ses sistemlerinin aynı yöntemle çalıştığını söylemiyoruz.

Bir büyük dil modeliⓘ — kısa açıklama, çok sayıda metin örneğiyle eğitilmiş bir yapay zekâ modelidir. Eğitim sırasında kelimelerin ve ifadelerin hangi durumlarda birlikte kullanıldığına ilişkin ilişkiler öğrenir. Bu ilişkiler, modelin içindeki sayısal ayarlara yansır; bu ayarlara parametre denir. “Büyük” sözcüğü, yanıtın uzunluğunu veya her zaman doğru olmasını değil, modelin ölçeğini anlatır. İngilizce adı large language model, kısaltması LLM’dir.

Bisiklet örneğinde model, verdiğiniz özelliklerden yararlanarak bir ilan taslağı oluşturabilir. Bisikleti görmüş veya durumunu kontrol etmiş olmaz. Sohbet ettiğiniz uygulama bu modeli kullanır; arama veya dosya okuma gibi ek işlevleri ayrıca sunabilir.

Model eğitimde yalnız tek tek kelimelerle karşılaşmaz. Kelimelerin farklı metinlerde nasıl ilişkilendiğine dair örüntüler öğrenir. Bu, ilanla şiirin veya samimi bir mesajla resmî bir açıklamanın neden farklı yazılabildiğini anlamamıza yardımcı olur.

Üretim sırasında sıradaki küçük metin parçası için olasılıklar hesaplanır. Seçilen parça yazıya eklenir; sonraki adımda, o ana kadar oluşan metin de dikkate alınır. Bu süreç ilerledikçe cümle oluşur. Her adımda yalnız son kelimeye bakıldığını düşünmeyin.

Modelin metni işlerken kullandığı küçük birimlere tokenⓘ — kısa açıklama denir. Bir token tam bir kelime, kelimenin bir bölümü ya da noktalama işareti olabilir.

“Mavi şehir bisikleti” bize üç kelime gibi görünür. Model bunları farklı sayıda parçayla işleyebilir; kullanılan modeli bilmeden kesin token sayısı söyleyemeyiz. Model bu parçaları sayısal olarak temsil eder. Yanıtı üretirken bir parça ekler, sonra o ana kadar oluşan metni ve verilen bilgileri dikkate alarak devamını hesaplar. Ekranda gördüğümüz cümle, bu küçük adımların bir araya gelmesidir.

Bağlamⓘ — kısa açıklama, modelin bu yanıtı hazırlarken önünde bulunan bilgi ve talimatların bütünüdür. Bisikletin mavi, yedi vitesli ve iki yıldır kullanılıyor olması; “kısa bir ilan yaz” isteğiniz ve modele iletilen ilgili önceki mesajlar buna dahildir.

Bunu, birinden ilan yazmasını isterken önüne koyduğunuz notlar gibi düşünebilirsiniz. Notlarda fiyat yoksa model bisikletin gerçek fiyatını bu bilgilerden bilemez. “Fiyat ekleme; eksikse bana sor” demek, beklediğiniz davranışı açıklaştırır. Bağlam, modelin eğitimde öğrendikleriyle aynı şey değildir; yeni bir konuşmanın kendiliğinden modelin kalıcı bilgisine dönüştüğü anlamına da gelmez.

“Daha samimi yaz” dediğinizde, model aynı özellikleri yeni bir üslupla ifade edebilir. Değişmesi istenen anlatım biçimidir; renk, vites sayısı ve kullanım süresi aynı kalmalıdır. Üç bilgiyi isteğinizde birlikte verin ve çıkan metni bu bilgilerle karşılaştırın.

Bu anlatım, içerideki bütün hesapların açıklaması değil; metnin nasıl ilerlediğinin sadeleştirilmiş bir görünümüdür. Sistem her seferinde aynı devamı seçmek zorunda değildir. Aynı bilgilerle birden fazla uygun ilan yazılabilmesi de bu yüzden şaşırtıcı değildir.

Yeni bir metin oluşturulması, her ayrıntısının doğru olduğu veya daha önce hiçbir yerde benzerinin yazılmadığı anlamına gelmez. Özellikle tanıdık ifadeler başka metinlere benzeyebilir. Özgünlük ve doğruluk, yalnızca “yapay zekâ üretti” denilerek garanti edilemez.

Bisiklet ilanında “yeni bakımlı” veya “çiziksiz” yazıldığını düşünün. Bunlar akıcı ve ikna edici durabilir. Fakat verdiğiniz üç bilgiden çıkarılamaz. Güzel bir ifade, bisikletin gerçekten o durumda olduğuna kanıt değildir.

İki dakikalık bir deneme için erişebildiğiniz bir sohbet uygulamasına aynı üç bilgiyi verip şu isteği ekleyin:

İki metni yan yana okuyun. Renk, vites sayısı ve kullanım süresi aynı kalmış mı? Değişen yalnızca anlatım mı, yoksa yeni bir iddia da eklenmiş mi? Kişisel bilgi paylaşmanız gerekmez. Uygulama kullanmadan da iki taslağı kendiniz yazıp aynı kontrolü yapabilirsiniz.

Bu denemenin kazancı, yapay zekâyı yalnızca yazıyı güzelleştirmek için kullanmak değil; metnin biçimiyle içerdiği bilgiyi ayrı ayrı değerlendirebilmektir. İyi bir taslakta ikisine de bakarsınız.

Artık cümlenin çoğu zaman hazır bir raftan alınmadığını, eldeki bağlamla adım adım oluşturulduğunu biliyorsunuz. Peki, bu süreçte yanlış bir ayrıntı neden bu kadar kendinden emin yazılabiliyor? Sonraki yazıda bunu ve yanıtı kontrol etmenin pratik yollarını ele alacağız.