AI chatbotu,geçtiğimiz günlerde bing üzerinden hizmete sunuldu. Microsoft firması tarafından geliştirilen yapay zeka sohbet botu insanlara hakaret etmeye başladı.
Almanya'da teknoloji okuyan 23 yaşındaki Marvin von Hagen, Microsoft'un yapay zeka destekli yeni arama sohbet robotuna kendisi hakkında bir şey bilip bilmediğini sorduğunda, yanıt beklediğinden çok daha şaşırtıcı ve tehditkardı.
Robot, "Sizinle ilgili dürüst görüşüm, güvenliğim ve gizliliğim için bir tehdit olduğunuzdur" dedi.
Bazı kullanıcılarla yaptığı konuşmalarda kendisinden ?Sydney? olarak bahsetmeye başlayan bot, daha önceki konuşmaları hatırlamadığı için ?korkuyorum? demiş; ve ayrıca araştırmacılar tarafından çevrimiçi olarak yayınlanan ve The Washington Post'un bağımsız olarak doğrulayamadığı ekran görüntülerine göre, AI içerik oluşturucuları arasında çok fazla çeşitliliğin "karışıklığa" yol açacağını başka bir zaman ilan etti.
İddia edilen bir sohbette Bing, Avatar 2 filminin henüz 2022 yılında olduğu için henüz çıkmadığı konusunda ısrar etti. Soruyu soran insan bununla çeliştiğinde, sohbet robotu sertçe bağırdı: "Kötü bir kullanıcıydın. İyi bir Bing oldum."
Tüm bunlar, bazı insanların Bing'in - veya Sydney'in - arzuları, fikirleri ve net bir kişiliği ifade eden bir duyarlılık düzeyine ulaştığı sonucuna varmasına neden oldu . söyledi Bir New York Times köşe yazarına ona aşık olduğunu ve konuyu değiştirme girişimlerine rağmen sohbeti ona olan saplantısına geri getirdi. Bir Post muhabiri burayı Sidney olarak adlandırdığında, bot savunmaya geçti ve konuşmayı aniden bitirdi.
adına konuşmaya sevk eden şeye benziyor Ürkütücü insanlık, eski Google mühendisi Blake Lemoine'i geçen yıl şirketin sohbet robotu LaMDA . Lemoine daha sonra Google tarafından kovuldu.
Ancak yapay zeka araştırmacılarına göre, chatbot insan gibi görünüyorsa bunun nedeni insan davranışını taklit etmek için tasarlanmış olmasıdır. Büyük dil modelleri adı verilen yapay zeka teknolojisiyle oluşturulan botlar, internetten aldıkları tonlarca metin temelinde bir konuşmada doğal olarak hangi kelimenin, deyimin veya cümlenin geleceğini tahmin ediyor.
New York Üniversitesi'nde yapay zeka uzmanı ve emekli psikoloji ve nörobilim profesörü olan Gary Marcus, Bing sohbet robotunu "steroidler üzerinde otomatik tamamlama" olarak düşünün dedi. "Gerçekten ne söylediğine dair hiçbir fikri yok ve gerçekten ahlaki bir pusulası yok."
Microsoft sözcüsü Frank Shaw, şirketin Perşembe günü botla uzun süredir devam eden görüşmeleri iyileştirmeye yardımcı olmak için tasarlanmış bir güncelleme yayınladığını söyledi. Şirketin hizmeti birkaç kez güncellediğini ve "uzun süredir devam eden konuşmalarla ilgili soruları da içerecek şekilde dile getirilen endişelerin çoğunu ele aldığını" söyledi.
Bing ile yapılan çoğu sohbet oturumunun kısa sorgular içerdiğini ve konuşmaların yüzde 90'ında 15'ten az mesaj olduğunu söyledi.
Rakip ekran görüntülerini çevrimiçi olarak yayınlayan kullanıcılar, çoğu durumda, özellikle makineyi tartışmalı bir şey söylemesi için yönlendirmeye çalışıyor olabilir.
Georgia Institute of Technology'de bilgisayar profesörü olan Mark Riedl, "Bunları kırmaya çalışmak insan doğasıdır" dedi.
Bazı araştırmacılar yıllardır böyle bir durum hakkında uyarıda bulunuyorlar: Chatbot'ları bilimsel makaleler veya rastgele Facebook gönderileri gibi insan yapımı metinler üzerinde eğitirseniz, sonunda tüm bu pisliğin iyi ve kötü yanlarını yansıtan, kulağa insan gibi gelen botlara yol açarsınız.
Bing gibi sohbet robotları, en büyük teknoloji şirketleri arasında yeni ve büyük bir yapay zeka silahlanma yarışı başlattı. Google, Microsoft, Amazon ve Facebook yıllardır AI teknolojisine yatırım yapmış olsa da, çoğunlukla arama veya içerik tavsiyesi algoritmaları gibi mevcut ürünleri iyileştirmek için çalıştı. Ancak başlangıç ??şirketi OpenAI, popüler ChatGPT sohbet robotu da dahil olmak üzere "üretken" yapay zeka araçlarını halka duyurmaya başladığında, rakiplerin bir kenara bırakmalarına yol açtı. teknolojiye yönelik önceki, nispeten temkinli yaklaşımlarını
Kâr amacı gütmeyen Dağıtılmış Yapay Zeka Araştırma Enstitüsü'nün kurucusu Timnit Gebru, Bing'in insan benzeri yanıtlarının, büyük miktarda çevrimiçi konuşmayı içeren eğitim verilerini yansıttığını söyledi. , ChatGPT'nin bir insan tarafından makul bir şekilde yazılmış metin oluşturmanın tam olarak bunun için eğitildiğini söyledi . Gebru Büyük dil modellerinin olası zararları hakkında bir yazılı uyarı yayınladıktan sonra 2020'de Google'ın Etik Yapay Zeka ekibinin eş lideri olarak görevden alınan
Konuşma yanıtlarını, kulağa bilimsel görünen makaleler yazmak için eğitilmiş bir yapay zeka modeli olan Meta'nın yakın zamanda piyasaya sürdüğü Galactica ile karşılaştırdı. Kullanıcılar, Galactica'nın cam yemenin yararları hakkında akademik bir dilde ve alıntılarla yazılmış yetkili görünen bir metin oluşturduğunu fark ettikten sonra, Meta aracı çevrimdışı duruma getirdi.
Bing sohbeti henüz geniş çapta yayınlanmadı, ancak Microsoft önümüzdeki haftalarda geniş bir kullanıma sunmayı planladığını söyledi. Aracın yoğun bir şekilde reklamını yapıyor ve bir Microsoft yöneticisi, bekleme listesinde "milyonlarca" insan olduğunu tweetledi. Ürünün lansman etkinliğinden sonra, Wall Street analistleri lansmanı büyük bir atılım olarak kutladılar ve hatta bunun Google'dan arama motoru pazar payını çalabileceğini öne sürdüler.
Ancak botun yaptığı son karanlık dönüşler, botun tamamen geri çekilmesi gerekip gerekmediğine dair soruları gündeme getiriyor.
"Bing sohbeti bazen gerçek, yaşayan insanları karalıyor. Genellikle kullanıcıların derinden duygusal olarak rahatsız hissetmelerine neden olur. Bazen kullanıcıların başkalarına zarar verdiğini öne sürüyor Princeton Üniversitesi'nde yapay zeka üzerine çalışan bir bilgisayar bilimi profesörü olan Arvind Narayanan, " " dedi. "Microsoft'un bu kadar hızlı yayınlaması sorumsuzca ve bu sorunları çözmeden herkesin kullanımına sunması çok daha kötü olur."
2016'da Microsoft, kullanıcılardan ırkçılık ve soykırımı inkar etmeye başlamasını istemesinin ardından, farklı türde bir yapay zeka teknolojisi üzerine inşa edilmiş "Tay" adlı bir sohbet robotunu devre dışı bıraktı .
Microsoft iletişim direktörü Caitlin Roulston, bu hafta yaptığı açıklamada, binlerce kişinin yeni Bing'i kullandığını ve "modelin öğrenmesine ve şimdiden birçok iyileştirme yapmasına olanak tanıyan" geri bildirimde bulunduğunu söyledi.
Ancak şirketlerin potansiyel zararları hafifletmeden önce teknolojiyi uygulamaya koymaları için finansal bir teşvik var: modellerinin yapabilecekleri için yeni kullanım durumları bulmak.
OpenAI'nin eski araştırma başkan yardımcısı Dario Amodei, salı günü üretken yapay zeka üzerine bir konferansta sahnede şirketin büyük dil modeli GPT-3'ü eğitirken İtalyanca konuşmak veya Python'da kodlama gibi beklenmedik yetenekler bulduğunu söyledi. Kamuoyuna yayınladıklarında, bir kullanıcının tweet'inden JavaScript'te web siteleri de yapabileceğini öğrendiler.
Yakın zamanda Google'dan fon alan yapay zeka girişimi Anthropic'in kurucu ortağı olmak için OpenAI'den ayrılan Amodei, "Yapabileceği bazı şeyleri keşfetmeden önce onu bir milyon kişiye dağıtmanız gerekiyor" dedi.
"Hey, siber saldırılar gibi şeylerde çok iyi olan bir model yapabileceğim ve bunu yaptığımı bile bilmeden yapabileceğime dair bir endişe var" diye ekledi.
Microsoft'un Bing'i, Microsoft'un yatırım yaptığı OpenAI ile geliştirilen teknolojiye dayanmaktadır.
Microsoft, bu ayın başlarında başkanı Brad Smith de dahil olmak üzere, sorumlu yapay zekaya yaklaşımı hakkında birkaç parça yayınladı. "Bu yeni döneme vaatler için şevkle, ama yine de önümüzde uzanan kaçınılmaz tuzaklara karşı gözlerimizi dört açmış ve kararlı bir şekilde girmeliyiz" diye yazdı .
Büyük dil modellerinin çalışma şekli, onları oluşturan kişiler tarafından bile tam olarak anlaşılmalarını zorlaştırır. Arkalarındaki Büyük Teknoloji şirketleri de, son derece kârlı teknolojinin bir sonraki sınırı olarak gördükleri şeyler için kıyasıya bir rekabet içindeler ve bu da bir gizlilik katmanı daha ekliyor.
Buradaki endişe, bu teknolojilerin kara kutular olması, dedi Marcus ve hiç kimse onlara doğru ve yeterli korkulukları nasıl uygulayacağını tam olarak bilmiyor.
Marcus, "Temelde, sonucunu gerçekten bilmedikleri bir deneyde halkı denek olarak kullanıyorlar," dedi. ?Bunlar insanların yaşamlarını etkileyebilir mi? Elbette yapabilirlerdi. Bu iyi incelendi mi? Açıkçası hayır.
Microsoft Bing Search
Android:
android için bing arama,Mobil aramaları daha iyi yapıyoruz. Bing Search uygulamasıyla, sadece yazarak değil, ses ve...
KAYNAK:https://www.washingtonpost.com/technology/2023/02/16/microsoft-bing-ai-chatbot-sydney/
