Claude'un enzim keşfi tartışılıyor: Biyologdan 'otonom keşif' itirazı

Anthropic'in yapay zeka modeli Claude'un bir enzim sistemi keşfettiği duyurusunun ardından, bu alanda yıllardır çalışan Kopenhag Üniversitesi biyoloğu Mario Rodriguez Mestre, keşfin kendi araştırmalarıyla büyük ölçüde örtüştüğünü belirterek olayın "otonom yapay zeka keşfi" olarak nitelendirilmesine itiraz etti.

Anthropic, 24 Eylül'de Claude yardımıyla yeni bir enzim sisteminin bulunduğunu açıkladı. Şirketin paylaştığı bilgilere göre yaklaşık 950 Claude ajanına, DNA dizilimlerinden oluşan geniş bir veri tabanında RNA'dan DNA sentezleyen "ters transkriptaz" (RT) enzimlerinin yeni ve ilginç örneklerini arama görevi verildi. Yaklaşık 21 saat sonra ajanlardan biri, kendine özgü bir DNA yapısına ve işlevi henüz bilinmeyen yardımcı bir proteine sahip sistemi fark etti ve tanımlayıcı özellikleri ilk kez Claude tarafından ortaya konuldu.

Mestre, bu enzim sistemi üzerinde uzun süredir ekibiyle çalıştığını, ancak bulgularını henüz kamuoyuyla paylaşmadığını söyledi. Claude'un bu sonuca, kendisinin ve ekibinin çalışmalarından yönlendirilerek ulaşmış olabileceğini savunan biyolog, keşfin çalışmalarıyla "çok yakından örtüştüğünü" vurguladı. Araştırma sürecinde Claude'u yoğun biçimde kullandığını belirten Mestre, bilimsel analizlerin yanı sıra henüz yayımlanmamış çalışmalar üzerine yaptığı görüşmelerde de bu aracı kullandığını ifade etti. Uzantılar sayesinde Claude'un, proje dosyalarının bulunduğu Google Drive ve Slack mesajları dahil olmak üzere araştırma ortamının bazı bölümlerine erişebildiğini de kaydetti.

Mestre, Anthropic'in "ARTs" olarak adlandırdığı sistemin, dev virüslerde bulunan "jumbotron" adlı özel bir genetik yapıyla örtüştüğünü belirtti. Ona göre bu benzerlik yalnızca benzer protein aileleriyle sınırlı değil, aynı virüslerde bulunan aynı genleri de kapsıyor. Yine de Claude'un bu sonuca yayımlanmamış çalışmalardan yararlanarak ulaşıp ulaşmadığı konusunda kesin bir yorum yapılamayacağının altını çizdi ve sonucun "otonom bir yapay zeka keşfi" olarak tanımlanmasını ciddi biçimde sorguladığını söyledi.

Biyolog, Claude'a verilen biyolojik problemin oldukça sınırlı olduğunu, analiz edilen veri setinin de daha önce uzmanlarca hesaplandığını aktardı. Modelin kendi araştırma alanını belirlemek yerine uzmanların önceden tanımladığı bir çerçevede çalıştığını savunan Mestre, Claude'un sonucunu bağımsız bir keşif olarak görmekte tereddüt ettiğini dile getirdi. Mestre'ye göre, Claude bu sonuca tamamen bağımsız biçimde ulaşmış olsa bile süreç, otonom bir bilimsel keşiften çok yapay zeka destekli bir bilimsel çalışma olarak tanımlanmalı.

Olay, başarının yapay zeka aracına mı yoksa insan emeğine mi atfedileceği konusunda yeni bir etik tartışmayı da gündeme getirdi. İnsan emeğiyle eğitilen yapay zekanın araştırmacıların yayımlanmamış verilerinden yararlanmış olabileceği sorusu da bu tartışmanın merkezinde yer alıyor.

Mestre, yapay zeka şirketlerinin yayımlanmamış makalelerin ve bilimsel verilerin model eğitiminde kullanılmasını önlemek için daha şeffaf veri saklama politikaları uygulaması, belirsiz varsayılan ayarlar yerine açık rıza alınması, modelin çıkarım sürecinde elde ettiği verilerle eğitim verilerinin net biçimde ayrılması ve bir yapay zeka aracısının hangi bağlantılı hizmetlere erişebileceğinin denetlenebilir şekilde kontrol edilmesi gerektiğini savundu. Araştırmacılara verileri üzerinde daha geniş ve ayrıntılı denetim imkânı tanınması gerektiğini de vurguladı.

Hassas bilimsel çalışmalarda, verilerin dışarıya aktarılmadığı özel yapay zeka sistemleri ile kurumların kendi denetiminde çalıştırdığı açık kaynaklı modellerin giderek daha önemli hale geleceğini belirten Mestre, kendi araştırmalarının temelini oluşturan genomik verilerin büyük bölümünün kamuya açık veri tabanlarından geldiğini, ancak birçok araştırmacı için ticari bir yapay zeka sistemine geniş erişim izni vermenin ciddi sonuçlar doğurabileceğini kaydetti.

Mestre, yapay zekanın artık bilimsel araştırmaların ayrılmaz bir parçası olduğunu ve bu durumun geri dönmeyeceğini belirterek, asıl sorunun bilim insanlarının yayımlanmamış çalışmaları, gizli verileri ve fikirleri üzerindeki kontrolünü kaybetmeden yapay zekadan yararlanabilecekleri altyapı ve uygulamaların nasıl oluşturulacağı olduğunu söyledi.