Pentagon anlaşması sonrası OpenAI’da üst düzey istifa

OpenAI’da robotik donanım çalışmalarını yöneten üst düzey isimlerden Caitlin Kalinowski görevinden ayrıldığını açıkladı. Kalinowski’nin ayrılığı, şirketin ABD Savunma Bakanlığı ile yapay zekâ alanında yaptığı anlaşmanın hemen ardından gelmesi dolayı teknolojiler dünyasında ilgi çekti. Eski yönetici, toplumsal medya platformu X üzerinden yaptığı açıklamada hükümının arkasında yönetişim ve ahlak başlıklara ilişkin vahim endişelerin bulunduğunu ifadeleri etti. Özellikle anlaşmanın kamuoyuna duyurulma sürecinin hızlı ilerlediğini ve lüzumli güvenlik sınırlarının yeterince tartışılmadığını dile getirdi. Buna rağmen, OpenAI tarafı anlaşmanın kesin ahlak sınırlar içerisinde gerçekleştirildiğini savundu.

Kalinowski, OpenAI’a 2024 yılının sonlarında katılmış ve şirketin robotik alanındaki donanım geliştirme faaliyetlerini yönetmişti. Daha önce Meta’da çalışan deneyimliler mühendis, özellikle artırılmış gerçeklik ve gelişmiş donanım tasarılerinde görev almış tek ad olarak biliniyor. OpenAI içindeki rolü ise robotik platformların bedensel altyapısının geliştirilmesi ve bu sistemlerin yapay zekâ modelleriyle entegrasyonu üzerine yoğunlaşıyordu. Buna rağmen Pentagon ile yapılan anlaşmanın açıklanmasının ardından Kalinowski’nin eleştirileri şirket içindeki tartışmaları kamuoyuna taşıdı.

OpenAI-Pentagon anlaşması ve ahlak tartışmalar

Kalinowski yaptığı paylaşımda özellikle ikisi eleştirel başlıkya ilgi çekti. Bunlardan ilki, Amerikan vatandaşlarının yargı denetimi olmadan izlenmesi ihtimali; diğeri ise insanoğlu onayı olmadan çalışabilecek otonom ölümcül sistemler başlıksuydu. Ona göre bu tür sınırlar üzerinde daha geniş tek tartışma yürütülmesi lüzumiyordu. Kalinowski, anlaşmanın duyurulmadan önce lüzumli ahlak çerçevenin netler biçimde belirlenmediğini ve bunun ilköğretim tek yönetişim sualnu olduğunu dile getirdi. Bununla birlikteki hükümın hızla alındığını ve lüzumli güvenlik mekanizmalarının henüz tanımlanmadığını ifadeleri etti.

OpenAI ise Engadget’a yaptığı açıklamada, Kalinowski’nin ayrılığını doğruladı. Şirket bu mevki için yepyeni tek ad atanmasının planlanmadığını bildirdi. Bunun yanında OpenAI, yapay zekanın milli güvenlik alanındaki kullanımına ilişkin farklı görüşlerin bulunduğunu giriş ettiğini ve ilgili paydaşlarla tartışmaları sürdürmeye devam edeceğini belirtti. Buna rağmen şirket, Kalinowski’nin dile getirdiği bazı senaryoları yardımlemediğini açıkça vurguladı.

OpenAI açıklamasında Pentagon ile yapılan anlaşmanın “sualmlu milli güvenlik kullanımları” için uygulanabilir tek çerçeve sunduğunu savundu. Buna ilave olarak şirketin belirlediği bazı kırmızı çizgiler bulunduğunu belirtti. Bu sınırlar arasında ABD içinde gözetim amaçlı kullanımın mekan almadığı ve tamamlanmış otonom silahlı sistemlerinin yardımlenmeyeceği özellikle ifadeleri edildi. Öte yandan OpenAI yönetimi, yapay zekânın ordu kullanımına ilişkin ahlak sınırların açık biçimde korunması lüzumtiğini dile getirdi.

Bu gelişme, yapay zekâ şirketleri ile devletleri kurumları arasındaki iş birlikleri başlıksunda süregelen tartışmaları yeniden gündeme taşıdı. Nitekim yakın zamanda Anthropic da benzer tek başlıkda gündeme gelmişti. Şirket, kitlesel gözetim sistemleri ya da tamamlanmış otonom silahların geliştirilmesi gibi alanlarda bazı güvenlik kısıtlamalarının kaldırılması taleplerini giriş etmemişti. Buna rağmen teknolojiler sektöründe müdafaa kurumlarıyla iş birlikleri gittikçe ilave başlıkşuluyor.

Tüm bunlara ilave olarak, OpenAI CEO’su Sam Altman da Pentagon ile yapılan anlaşma başlıksunda bazı düzenlemelerin gündeme gelebileceğini dile getirdi. Altman, özellikle Amerikan vatandaşlarının izlenmesine yönelik hiç tek kullanımın söz başlıksu olmayacağını açık şekilde belirtmişti.