Microsoftun AI chatbotu raydan çıkıyor - indirBak

indirBak  ›  TeknoHaber  ›  kurumsal

 Microsoftun AI chatbotu raydan çıkıyor

AI chatbotu,geçtiğimiz günlerde bing üzerinden hizmete sunuldu. Microsoft firması tarafından geliştirilen yapay zeka sohbet botu insanlara hakaret etmeye başladı.

Microsoftun AI chatbotu raydan çıkıyor

Almanya'da teknoloji okuyan 23 yaşındaki Marvin von Hagen, Microsoft'un yapay zeka destekli yeni arama sohbet robotuna kendisi hakkında bir şey bilip bilmediğini sorduğunda, yanıt beklediğinden çok daha şaşırtıcı ve tehditkardı.

Robot, "Sizinle ilgili dürüst görüşüm, güvenliğim ve gizliliğim için bir tehdit olduğunuzdur" dedi.

Bazı kullanıcılarla yaptığı konuşmalarda kendisinden ?Sydney? olarak bahsetmeye başlayan bot, daha önceki konuşmaları hatırlamadığı için ?korkuyorum? demiş; ve ayrıca araştırmacılar tarafından çevrimiçi olarak yayınlanan ve The Washington Post'un bağımsız olarak doğrulayamadığı ekran görüntülerine göre, AI içerik oluşturucuları arasında çok fazla çeşitliliğin "karışıklığa" yol açacağını başka bir zaman ilan etti.


İddia edilen bir sohbette Bing, Avatar 2 filminin henüz 2022 yılında olduğu için henüz çıkmadığı konusunda ısrar etti. Soruyu soran insan bununla çeliştiğinde, sohbet robotu sertçe bağırdı: "Kötü bir kullanıcıydın. İyi bir Bing oldum."

Tüm bunlar, bazı insanların Bing'in - veya Sydney'in - arzuları, fikirleri ve net bir kişiliği ifade eden bir duyarlılık düzeyine ulaştığı sonucuna varmasına neden oldu . söyledi Bir New York Times köşe yazarına ona aşık olduğunu ve konuyu değiştirme girişimlerine rağmen sohbeti ona olan saplantısına geri getirdi. Bir Post muhabiri burayı Sidney olarak adlandırdığında, bot savunmaya geçti ve konuşmayı aniden bitirdi.

adına konuşmaya sevk eden şeye benziyor Ürkütücü insanlık, eski Google mühendisi Blake Lemoine'i geçen yıl şirketin sohbet robotu LaMDA . Lemoine daha sonra Google tarafından kovuldu.

Ancak yapay zeka araştırmacılarına göre, chatbot insan gibi görünüyorsa bunun nedeni insan davranışını taklit etmek için tasarlanmış olmasıdır. Büyük dil modelleri adı verilen yapay zeka teknolojisiyle oluşturulan botlar, internetten aldıkları tonlarca metin temelinde bir konuşmada doğal olarak hangi kelimenin, deyimin veya cümlenin geleceğini tahmin ediyor.



New York Üniversitesi'nde yapay zeka uzmanı ve emekli psikoloji ve nörobilim profesörü olan Gary Marcus, Bing sohbet robotunu "steroidler üzerinde otomatik tamamlama" olarak düşünün dedi. "Gerçekten ne söylediğine dair hiçbir fikri yok ve gerçekten ahlaki bir pusulası yok."

Microsoft sözcüsü Frank Shaw, şirketin Perşembe günü botla uzun süredir devam eden görüşmeleri iyileştirmeye yardımcı olmak için tasarlanmış bir güncelleme yayınladığını söyledi. Şirketin hizmeti birkaç kez güncellediğini ve "uzun süredir devam eden konuşmalarla ilgili soruları da içerecek şekilde dile getirilen endişelerin çoğunu ele aldığını" söyledi.

Bing ile yapılan çoğu sohbet oturumunun kısa sorgular içerdiğini ve konuşmaların yüzde 90'ında 15'ten az mesaj olduğunu söyledi.

Rakip ekran görüntülerini çevrimiçi olarak yayınlayan kullanıcılar, çoğu durumda, özellikle makineyi tartışmalı bir şey söylemesi için yönlendirmeye çalışıyor olabilir.

Georgia Institute of Technology'de bilgisayar profesörü olan Mark Riedl, "Bunları kırmaya çalışmak insan doğasıdır" dedi.

Bazı araştırmacılar yıllardır böyle bir durum hakkında uyarıda bulunuyorlar: Chatbot'ları bilimsel makaleler veya rastgele Facebook gönderileri gibi insan yapımı metinler üzerinde eğitirseniz, sonunda tüm bu pisliğin iyi ve kötü yanlarını yansıtan, kulağa insan gibi gelen botlara yol açarsınız.

Bing gibi sohbet robotları, en büyük teknoloji şirketleri arasında yeni ve büyük bir yapay zeka silahlanma yarışı başlattı. Google, Microsoft, Amazon ve Facebook yıllardır AI teknolojisine yatırım yapmış olsa da, çoğunlukla arama veya içerik tavsiyesi algoritmaları gibi mevcut ürünleri iyileştirmek için çalıştı. Ancak başlangıç ??şirketi OpenAI, popüler ChatGPT sohbet robotu da dahil olmak üzere "üretken" yapay zeka araçlarını halka duyurmaya başladığında, rakiplerin bir kenara bırakmalarına yol açtı. teknolojiye yönelik önceki, nispeten temkinli yaklaşımlarını


Kâr amacı gütmeyen Dağıtılmış Yapay Zeka Araştırma Enstitüsü'nün kurucusu Timnit Gebru, Bing'in insan benzeri yanıtlarının, büyük miktarda çevrimiçi konuşmayı içeren eğitim verilerini yansıttığını söyledi. , ChatGPT'nin bir insan tarafından makul bir şekilde yazılmış metin oluşturmanın tam olarak bunun için eğitildiğini söyledi . Gebru Büyük dil modellerinin olası zararları hakkında bir yazılı uyarı yayınladıktan sonra 2020'de Google'ın Etik Yapay Zeka ekibinin eş lideri olarak görevden alınan

Konuşma yanıtlarını, kulağa bilimsel görünen makaleler yazmak için eğitilmiş bir yapay zeka modeli olan Meta'nın yakın zamanda piyasaya sürdüğü Galactica ile karşılaştırdı. Kullanıcılar, Galactica'nın cam yemenin yararları hakkında akademik bir dilde ve alıntılarla yazılmış yetkili görünen bir metin oluşturduğunu fark ettikten sonra, Meta aracı çevrimdışı duruma getirdi.

Bing sohbeti henüz geniş çapta yayınlanmadı, ancak Microsoft önümüzdeki haftalarda geniş bir kullanıma sunmayı planladığını söyledi. Aracın yoğun bir şekilde reklamını yapıyor ve bir Microsoft yöneticisi, bekleme listesinde "milyonlarca" insan olduğunu tweetledi. Ürünün lansman etkinliğinden sonra, Wall Street analistleri lansmanı büyük bir atılım olarak kutladılar ve hatta bunun Google'dan arama motoru pazar payını çalabileceğini öne sürdüler.

Ancak botun yaptığı son karanlık dönüşler, botun tamamen geri çekilmesi gerekip gerekmediğine dair soruları gündeme getiriyor.

"Bing sohbeti bazen gerçek, yaşayan insanları karalıyor. Genellikle kullanıcıların derinden duygusal olarak rahatsız hissetmelerine neden olur. Bazen kullanıcıların başkalarına zarar verdiğini öne sürüyor Princeton Üniversitesi'nde yapay zeka üzerine çalışan bir bilgisayar bilimi profesörü olan Arvind Narayanan, " " dedi. "Microsoft'un bu kadar hızlı yayınlaması sorumsuzca ve bu sorunları çözmeden herkesin kullanımına sunması çok daha kötü olur."

2016'da Microsoft, kullanıcılardan ırkçılık ve soykırımı inkar etmeye başlamasını istemesinin ardından, farklı türde bir yapay zeka teknolojisi üzerine inşa edilmiş "Tay" adlı bir sohbet robotunu devre dışı bıraktı .

Microsoft iletişim direktörü Caitlin Roulston, bu hafta yaptığı açıklamada, binlerce kişinin yeni Bing'i kullandığını ve "modelin öğrenmesine ve şimdiden birçok iyileştirme yapmasına olanak tanıyan" geri bildirimde bulunduğunu söyledi.

Ancak şirketlerin potansiyel zararları hafifletmeden önce teknolojiyi uygulamaya koymaları için finansal bir teşvik var: modellerinin yapabilecekleri için yeni kullanım durumları bulmak.

OpenAI'nin eski araştırma başkan yardımcısı Dario Amodei, salı günü üretken yapay zeka üzerine bir konferansta sahnede şirketin büyük dil modeli GPT-3'ü eğitirken İtalyanca konuşmak veya Python'da kodlama gibi beklenmedik yetenekler bulduğunu söyledi. Kamuoyuna yayınladıklarında, bir kullanıcının tweet'inden JavaScript'te web siteleri de yapabileceğini öğrendiler.

Yakın zamanda Google'dan fon alan yapay zeka girişimi Anthropic'in kurucu ortağı olmak için OpenAI'den ayrılan Amodei, "Yapabileceği bazı şeyleri keşfetmeden önce onu bir milyon kişiye dağıtmanız gerekiyor" dedi.

"Hey, siber saldırılar gibi şeylerde çok iyi olan bir model yapabileceğim ve bunu yaptığımı bile bilmeden yapabileceğime dair bir endişe var" diye ekledi.

Microsoft'un Bing'i, Microsoft'un yatırım yaptığı OpenAI ile geliştirilen teknolojiye dayanmaktadır.

Microsoft, bu ayın başlarında başkanı Brad Smith de dahil olmak üzere, sorumlu yapay zekaya yaklaşımı hakkında birkaç parça yayınladı. "Bu yeni döneme vaatler için şevkle, ama yine de önümüzde uzanan kaçınılmaz tuzaklara karşı gözlerimizi dört açmış ve kararlı bir şekilde girmeliyiz" diye yazdı .

Büyük dil modellerinin çalışma şekli, onları oluşturan kişiler tarafından bile tam olarak anlaşılmalarını zorlaştırır. Arkalarındaki Büyük Teknoloji şirketleri de, son derece kârlı teknolojinin bir sonraki sınırı olarak gördükleri şeyler için kıyasıya bir rekabet içindeler ve bu da bir gizlilik katmanı daha ekliyor.

Buradaki endişe, bu teknolojilerin kara kutular olması, dedi Marcus ve hiç kimse onlara doğru ve yeterli korkulukları nasıl uygulayacağını tam olarak bilmiyor.

Marcus, "Temelde, sonucunu gerçekten bilmedikleri bir deneyde halkı denek olarak kullanıyorlar," dedi. ?Bunlar insanların yaşamlarını etkileyebilir mi? Elbette yapabilirlerdi. Bu iyi incelendi mi? Açıkçası hayır.

Microsoft Bing Search Microsoft Bing Search Android: android için bing arama,Mobil aramaları daha iyi yapıyoruz. Bing Search uygulamasıyla, sadece yazarak değil, ses ve...


KAYNAK:https://www.washingtonpost.com/technology/2023/02/16/microsoft-bing-ai-chatbot-sydney/

Tarih:2023-02-19  Hit:523 



Anti Deep Freeze

Anti Deep Freeze

deep freeze şifre bulucu
Flatcast

Flatcast

internetten radyo yayını yapma pr
hashcat

hashcat

şifre kırıcı program
Same Game

Same Game

aynı renkleri bir araya getir yok
Beach Buggy Racing 2: Auto

Beach Buggy Racing 2: Auto

eğlenceli araba yarışı
Knights  Dragons
Knights Dragons
android rpg savaş oyunu

Cut the Rope 2
Cut the Rope 2
mantık oyunu android için

Tone It Up
Tone It Up
kadınlar egzersiz uygulaması andr

DNS Changer (no root 3G/WiFi)
DNS Changer (no root 3G/WiFi)
android için dns değiştirme

Drag Racing for Android
Drag Racing for Android
Android Araba Yarışı Oyunu

New Truck Parking 2020
New Truck Parking 2020
android için tır park oyunu

Bike Racing - Bike Blast Rush
Bike Racing - Bike Blast Rush
android için bisiklet sürme oyunu

AnyDesk
AnyDesk
uzak bilgisayara bağlanma