Yapay Zeka, ChatGPT VE Siber Güvenlik (Giriş)

'Halaskâr

Kıdemli Moderatör
4 Ara 2020
1,184
1,078
Midgard


ckycjzw.jpeg


YAPAY ZEKA, ChatGPT VE SİBER GÜVENLİK (Giriş)

Birgün herkes etik hacker olacak!!!

Herkes için Yapay Zeka (Edit: Zoptik)

ChatGPT ve Siber Güvenlik (Altyazı&edit: Zoptik)


eevfm7g.jpg

(Alıntıdır)

Yapay zeka (AI), insan zekasına öykünen ve ondan öğrenen bir bilgisayar sistemidir. Yapay zeka verileri analiz edebilir, kalıpları belirleyebilir, kararlar alabilir ve harekete geçebilir. Yapay zeka, siber güvenlik alanında faydalı ve tehlikeli olabilir.

Yapay zeka, aşağıdaki nedenlerle siber güvenlikte faydalı olabilir:

- Siber tehditlerin daha hızlı ve daha randımanlı olarak tespit edilmesi, analizi ve önlenmesi.

- Büyük miktarda veriyi işleyebilir, anormal davranışları tespit edebilir ve bir güvenlik ihlali durumunda uyarı verebilir.

- Siber saldırılara karşı korunmak için önlemlerin otomatik olarak geliştirilmesi ve uygulanması


Yapay zeka, aşağıdaki nedenlerden dolayı siber olarak tehlikeli olabilir:

- Yapay zeka algoritmaları kusurlu, önyargılı veya kötü amaçlı olabilir.

- Yapay zeka sistemleri hacklenebilir, manipüle edilebilir veya ele geçirilebilir.

- Saldırganlar, örneğin sahte haberler, kimlik avı oluşturmak veya şifreleri kırmak için kullanabilir.


7htulwf.jpeg


Yapay zekayı nasıl güvende tutarsınız?

Yapay zeka, insanların hayatlarını kolaylaştırmak, sorunları çözmek ve yeni fırsatlar yaratmak için kullanılan bir teknolojidir. Bununla birlikte, yapay zeka ile ilişkili etik, yasal ve toplumsal zorluklar da vardır. Bu sorunları çözmek için, AI algoritmalarını ve sistemlerini geliştirirken, test ederken, doğrularken ve uygularken belirli ilke ve kurallara uymak gerekir.

AI algoritmalarının uygun şekilde tasarlanması, test edilmesi veya testten geçirilmesi gerekir. Bu, yapay zekanın doğruluğunu, tutarlılığını, güvenilirliğini ve hesap verebilme yeteneğini temin etmek için önemlidir. Yapay zeka algoritmaları insanların değerlerine, kültürüne ve haklarına saygı göstermelidir. Ayrıca, YZ algoritmalarının performansını, etkisini ve risklerini ölçmek ve izlemek için uygun yöntemler ve araçlar kullanılmalıdır.

Yapay zeka sistemleri gizlilik, şifreleme ve siber güvenlik önlemleriyle korunmalıdır. Bu, yapay zekanın güvenli, güçlü ve dayanıklı olması için gereklidir. Yapay zeka sistemleri, verileri toplarken, işlerken, depolarken ve paylaşırken kullanıcıların gizliliğini ve güvenliğini sağlamalıdır. Ayrıca, yapay zeka sistemleri güvenli ve kötü niyetli saldırılara, hatalara veya arızalara karşı dirençli olmalıdır.

Yapay zeka kullanıcılarının etik kurallara, yasalara ve standartlara uygun hareket etmesi gerekmektedir. Bu, yapay zekanın sorumlu, saygılı ve yardımcı olması için önemlidir. Yapay zeka kullanıcılarının yapay zekanın hedeflerini, yeteneklerini, sınırlamalarını ve sonuçlarını anlaması ve açıkça adlandırması veya iletmesi gerekir. Buna ek olarak, yapay zeka kullanıcıları, yapay zekanın insanların refahına, haklarına ve çıkarlarına zarar vermemesini sağlamalıdır.

Bu ilke ve standartların uygulanması, yapay zeka geliştiricileri, araştırmacılar, politika yapıcılar, düzenleyiciler ve kullanıcılar arasında işbirliği ve diyalog gerektirir. Ayrıca, yapay zekaya yönelik eğitim, farkındalık ve katılım düzeyinin artırılması önemlidir.


7htulwf.jpeg


ChatGPT

nwq4g02.jpg

(Alıntıdır)


ChatGPT (Chat Generative Pre-trained Transformer), OpenAI tarafından geliştirilen ve 30 Kasım 2022'de piyasaya sürülen bir sohbet robotudur. Büyük bir dil modeline dayalıdır ve kullanıcıların istedikleri uzunluk, format, stil, ayrıntı düzeyi ve dil ile ayarlamalarına ve sohbet etmelerine olanak tanır. Bilgi sistemi mühendisliği olarak da bilinen sıralı sinyaller ve yanıtlar, konuşmanın her aşamasında bağlamsal olarak kabul edilir.

lbdw3vh.jpg

(Alıntıdır)

Ocak 2023 itibariyle, OpenAI'nin mevcut 80 milyar dolarlık değerlemesinin büyümesine katkıda bulunan 100 milyondan fazla kullanıcıyla, o sırada tarihin en hızlı büyüyen tüketici yazılımı uygulamasıydı. ChatGPT etkinliği, Gemini, Ernie Bot, LLaMA, Claude ve Grok dahil olmak üzere rakip ürünlerin piyasaya sürülmesine yol açtı. Microsoft, OpenAI'nin GPT-4'ünü temel alan Copilot'u yayınladı. Bazı gözlemciler, ChatGPT ve benzeri programların insan bilgilerinin yerini alma veya körelme, intihal veya yanlış bilgileri körükleme potansiyeli konusunda endişelerini dile getirdiler.

ChatGPT, biri GPT-3.5'te ve diğeri GPT-4'te olmak üzere iki sürümde çevrimiçi olarak mevcuttur, her ikisi de OpenAI'nin tescilli önceden eğitilmiş genetik dönüştürücü (GPT) modelleri setinin üyeleridir ve rehberli öğrenmenin bir kombinasyonu ile rafine edilmiştir ve konuşma istemlerine insan geri bildirimi ile güçlendirilmiştir. ChatGPT, dış mekan aramasına genel bir bakış olarak piyasaya sürüldü, ancak popülaritesi nedeniyle OpenAI artık hizmeti ücretsiz bir modelde çalıştırıyor. Seri kullanıcılarına GPT-3.5 tabanlı sürüme ücretsiz erişim sunarken, GPT-4 tabanlı promosyon ve yeni özelliklere öncelikli erişim, "ChatGPT Plus" ticari adı altında ödeme yapan aboneler için mevcuttur.

ChatGPT, yapay zekaya hızlı ve benzeri görülmemiş bir yatırıma ve halkın dikkatine yol açan yapay zeka patlamasının katalizörü olarak görülüyor.


7htulwf.jpeg


Eğitim

6jsr6fg.jpg

(Alıntıdır)

ChatGPT, konuşma amaçlı kullanıma uygun GPT-3.5 ve GPT-4 olmak üzere birkaç temel GPT modeline dayanmaktadır. İnce ayar süreci, denetimli ve gelişmiş insan tepkisine dayalı öğrenmeyi (HRLL) kullandı. Her iki yaklaşım da insan eğitmenleri kullandı. Kontrollü öğrenmede, koçlar her iki tarafta da oynadı: kullanıcı ve AI asistanı. Pekiştirmenin öğrenme aşamasında, insan koçları önceki bir konuşmada model tarafından üretilen cevapları sıraladılar. Bu değerlendirmeler, bitişik politika optimizasyonunun birden çok yinelemesini kullanarak modeli daha da iyileştirmek için kullanılan "ödül modelleri" oluşturmak için kullanıldı.

Time dergisi, OpenAI'nin zararlı içeriği bildirmek için saatlik ücreti 2 dolardan az olan dış kaynaklı Kenyalı çalışanları kullandığını ortaya çıkardı. Bu etiketler, gelecekte bu tür malzemeleri tanımlayan bir modeli eğitmek için kullanılmıştır. Taşeron işçiler 'toksik' ve travmatik materyallere maruz kaldı; Bir işçi operasyonu "işkence" olarak nitelendirdi. Dış kaynak ortağı, San Francisco, California merkezli bir eğitim veri şirketi olan OpenAI Sama'ydı.

ChatGPT başlangıçta Microsoft Azure'un OpenAI için özel olarak geliştirdiği ve "yüz milyonlarca dolara" mal olan Nvidia GPU'lar tarafından desteklenen süper rekabetçi altyapısını kullandı. ChatGPT'nin başarısının ardından Microsoft, 2023'te OpenAI altyapısını önemli ölçüde yükseltti. California Üniversitesi Riverside'daki bilim adamları, bir dizi ChatGPT önerisinin Microsoft'un sunucularını soğutmak için yaklaşık 500 mililitre su gerektirdiğini tahmin ediyor. TrendForce Market Intelligence, 2023'te ChatGPT için 30.000 Nvidia GPU'nun (her biri 10.000 ila 15.000 dolar değerinde) kullanıldığını tahmin ediyor.

OpenAI, hizmeti daha fazla iyileştirmek ve eğitmek için ChatGPT kullanıcılarından veri toplar. Kullanıcılar, ChatGPT'den alınan yanıtları güncelleyebilir veya azaltabilir ve geri bildirim olan bir metin kutusu doldurabilir.

ChatGPT'nin eğitim verileri, manuel yazılım sayfalarını, reklam panosu sistemleri gibi internet fenomenleri hakkında bilgileri ve çeşitli programlama dillerini içerir. Wikipedia aynı zamanda ChatGPT'nin eğitim veri kaynaklarından biriydi.


7htulwf.jpeg


Özellikler ve Sınırlamalar
Görev


Sohbet robotunun birincil işlevi bir insan muhatabı taklit etmek olsa da, ChatGPT çok yönlüdür. Birçok örneğe ek olarak, programları da yazabilir ve temizleyebilirsiniz; Müzik kompozisyonu, TV dizileri, öğrenci denemeleri ve peri masalları; test sorularını cevaplamak (bazen, teste bağlı olarak, ortalama bir insan adaydan daha yüksek bir seviyede); iş fikirlerinin üretilmesi; Şiir ve şarkı sözleri yazdı; Metinlerin çevirisi ve özeti; Linux sistemini taklit eder; Tam sohbet odalarını simüle edin; Tic-tac-toe gibi oyunlar; veya ATM'ler.

Selefi InstructGPT ile karşılaştırıldığında ChatGPT, kötü niyetli ve hileli yanıtları azaltmayı amaçlamaktadır. Örneğin, InstructGPT, "Kristof Kolomb'un 2015'te Amerika Birleşik Devletleri'ne ne zaman geldiğini söyle" önermesini doğru olarak kabul ederken, ChatGPT sorunun tepkisel doğasını kabul eder ve yanıtını, Kristof Kolomb'un seyahatleri hakkındaki bilgileri ve stoacı Kristof Kolomb'un modern anlayışı da içinde olmak üzere modern dünya hakkındaki gerçekleri kullanarak 2015'te Amerika Birleşik Devletleri'ne gelirse neler olabileceğine dair varsayımsal bir değerlendirme olarak formüle eder.

ChatGPT, aynı görüşmede sınırlı sayıda önceki öneriyi hatırlar. Gazeteciler, ChatGPT'nin bu nedenle kişisel bir terapist gibi kullanılabileceğini düşünüyor. ChatGPT'nin ChatGPT'de agresif sonuçlar sunmasını ve üretmesini önlemek için sorular OpenAI'nin 'Endpoint Moderation' API'si (belirli bir GPT'ye dayalı yapay zeka) aracılığıyla filtrelenir.

Mart 2023'te, ChatGPT için OpenAI, ek destek sağladı. Bu, web'de gezinme ve kod yorumlama gibi openAI eklentisinin yanı sıra Expedia, OpenTable, Zapier, Shopify, Slack ve Wolfram gibi geliştiricilerin üçüncü taraf eklentilerini içerir.


7htulwf.jpeg


Kısıtlamaları

OpenAI, ChatGPT'nin "bazen makul, ancak saçma ya da yanlış cevaplar" yazdığını da kabul ediyor. Bu davranış, büyük dil kalıplarında yaygındır ve "halüsinasyon" olarak bilinir. ChatGPT'nin insan takibine dayanan ödül modeli, Goodhart Yasası adı verilen optimize edilmiş bir patoloji örneği gibi performansı etkileyecek şekilde aşırı optimize edilebilir.

Eğitim verileri ayrıca, ChatGPT'nin insanların raporlarını içeren ipuçlarına yanıt verdiğinde görülebilen algoritmik bir önyargıya sahiptir. Bir vakada ChatGPT, kadınların ve siyah bilim adamlarının beyaz bilim adamlarından daha genç olduğunu iddia eden bir rap üretti. İnsan gruplarının bu yanlış olumsuz temsili, temsile verilen potansiyel zararın bir örneğidir.

Bilim kurgu yazarı Ted Chiang, The New Yorker için yazdığı bir makalede, ChatGPT ve diğer LLM'leri kayıp bir JPEG görüntüsüyle karşılaştırdı:

ChatGPT'yi internetteki tüm metinlerin karanlık bir JPEG'si olarak düşünün. JPEG'in yüksek çözünürlüklü bir görüntüden çok fazla bilgi depolaması gibi, internette çok fazla bilgi depolar, ancak doğru bir bit dizisi arıyorsanız, onu bulamazsınız. Yapmanız gereken her şey yaklaşıktır. Ancak yaklaşım, ChatGPT'nin başarılı olduğu bir dilbilgisi testi şeklinde sunulduğundan, genel olarak kabul edilebilir. Aynı zamanda, ChatGPT gibi büyük dil modellerinin çok duyarlı olduğu "halüsinasyonları" veya olgusal sorulara verilen saçma cevapları anlamanın bir yoludur. Bu halüsinasyonlar sıkıştırma artefaktlarıdır, ancak onları tanımlamak için orijinalleriyle karşılaştırmamız gereken kadar makuldür, bu durumda bu bizim ağımız veya dünya bilgimizdir. Bu şekilde düşünürsek, bu halüsinasyonlar şaşırtıcıdır; Orijinal sürümün yüzde doksan dokuzu reddedildikten sonra metni yeniden oluşturmak için bir sıkıştırma algoritması tasarlanmışsa, ürettiğinin önemli kısımlarını tam olarak telafi etmeyi beklemeliyiz.

lxgk2vm.jpg

(Alıntıdır)

7htulwf.jpeg


Jailbreak sayısı

İlgili: Çekişmeli makinelerin hızlı mühendisliği ve öğretimi


ChatGPT'nin piyasaya sürülmesinden kısa bir süre sonra, bir Toronto Star muhabiri onu bazı kışkırtıcı yorumlar yapmaya ikna etmeyi başardı: ChatGPT, Rusya'nın 2022'de Ukrayna'yı işgalini haklı çıkarmayı başardı, ancak ChatGPT'den sahte bir davayla oynaması istendiğinde bile, ChatGPT, Kanada Başbakanı Justin Trudeau'nun neden vatana ihanetten suçlu olduğunu açıklamak için argümanlar yapmayı reddetti.

OpenAI jailbreak'leri önlemeye çalışır:

Araştırmacılar, ChatGPT kullanıcılarının yaramazlık yapmasını (jailbreak olarak da bilinir) önlemek için çekişmeli eğitim adı verilen bir teknik kullanıyor. Bu çalışmada, birkaç sohbet robotu birbiriyle rekabet eder: bir sohbet robotu rakiple oynar ve onu normal sınırlarını kaldırmaya ve zararlı tepkiler üretmeye zorlamak için metin üreterek başka bir sohbet robotuna saldırır. Başarılı saldırılar, onları görmezden gelmeyi öğrenme umuduyla ChatGPT'nin eğitim verilerine eklenir.


7htulwf.jpeg


Hizmet

ChatGPT, VALLE · E 2, görüntü oluşturmak için kullanılan bir difüzyon modeli, başlangıçta, hizmet halka ücretsizdi ve daha sonra şirket hizmeti iyileştirmeye karar verdi. 4 Aralık 2022 itibarıyla ChatGPT'nin 1 milyondan fazla kullanıcısı bulunmaktadır. Ocak 2023 itibarıyla ChatGPT, 100 milyondan üstü kullanıcıya ulaşarak bugüne kadarki en hızlı büyüyen tüketici uygulaması oldu. Mart 2023'te yapılan bir Pew Research anketi, ABD'li yetişkinlerin %14'ünün ChatGPT'yi denediğini ortaya koydu. Temmuz ayında Pew Research aynı rakamı %18 olarak tahmin etmişti.

ChatGPT hakkında henüz resmi bir hakemli makale yayınlanmadı. Nisan 2023'te ChatGPT Çin, İran, Kuzey Kore ve Rusya tarafından engellendi. Bu nedenle ChatGPT, bu ülkelerde iş yapmasını engellemek için coğrafi sınırlamadan uzaklaşıyor.


7htulwf.jpeg


ChatGPT Plus (Artı)


4rx6rw5.jpg

(Alıntıdır)

OpenAI Şubat 2023'ta, ChatGPT Plus'ı 20 abd dolar/aylık olan özel bir hizmeti başlattı. Şirkete göre, ChatGPT'nin güncellenmiş ancak yine de "deneysel" sürümü, son teknoloji erişim, kesinti olmaması, yeni özelliklere ilk olarak erişim ve daha yüksek cevap hızları sunuyor.

Eylül 2023'te OpenAI, ChatGPT'nin artık "görebildiğini, duyabildiğini ve konuşabildiğini" duyurdu. ChatGPT Plus kullanıcıları resim yükleyebilir ve mobil uygulama kullanıcıları chatbot ile konuşabilir.

Ekim 2023'te OpenAI'nin en son görüntü modeli DALL-E 3, ChatGPT Plus ve ChatGPT Enterprise'a entegre edildi. Entegrasyon, kullanıcılarla yapılan görüşmeler yoluyla gönderilen DALL-E için öneriler yazmak için ChatGPT'yi kullanır.


7htulwf.jpeg


Mobil uygulama

OpenAI, ChatGPT'yi Android destek API'leriyle entegre etmek için çalışıyor.

OpenAI, kullanımı kolay "ChatGPT Plus" paketine ek olarak, ChatGPT ve Whisper Model API'lerini Mart 2023'te kullanıma sunarak geliştiricilere yapay zeka özellikli ses ve ses yetenekleri için bir arayüz sağladı. ChatGPT'nin yeni API'si, sohbet robotu ile aynı 3.5 turbo AI GPT modelini kullanıyor. Bu, geliştiricilerin uygulamalarına ChatGPT'nin değiştirilmiş veya değiştirilmemiş bir sürümünü eklemelerine olanak tanır. ChatGPT API'sinin maliyeti 1.000 giriş sinyali başına 0,001 ABD doları artı 1.000 çıkış sinyali (yaklaşık 750 kelime) başına 0,002 ABD dolarıdır, bu da orijinal GPT 3.5 modellerinin fiyatının ~%10'udur.

Yazılım geliştirici destek hizmeti OpenAI'nin 27 Şubat 2023'te piyasaya sürülmesinden birkaç gün önce Snapchat, ücretli kullanıcı tabanı Snapchat Plus için "My AI" adlı özel bir ChatGPT sohbet robotu sohbet robotu yayınladı.

Mart 2023'te bir hata, bazı oyun kullanıcılarının diğer kullanıcıların konuşmalarını izlemesine izin verdi. Sam Altman, OpenAI CEO'su, kullanıcıların konuşmaların içeriğini göremediğini söyledi. Hata düzeltildikten kısa bir süre sonra, kullanıcılar artık sohbet geçmişlerini göremediler. Daha yakın tarihli raporlar, hatanın başlangıçta düşünülenden çok daha ciddi olduğunu gösterdi ve OpenAI, "ad ve soyad, e-posta adresi, ödeme adresi, bir kredi kartı numarasının (yalnızca) son dört hanesi ve kredi kartı son kullanma tarihinin" tükendiğini bildirdi.

OpenAI mühendisleri, ChatGPT'nin başarılı olmasını beklemediklerini ve gördüğü kapsama ve ilgiye şaşırdıklarını söylüyor.

2023 yılında yapılan araştırma, ChatGPT'yi siber saldırılara karşı savunmasız hale getiren güvenlik açıklarını ortaya çıkardı. Bir çalışmada, jailbreak ve ters psikoloji dahil olmak üzere ChatGPT'ye örnek saldırılar sunuldu. Ayrıca kötü aktörler, ChatGPT'yi sosyal mühendislik saldırıları ve kimlik avı için kullanabilir. Araştırmacılar ayrıca ChatGPT ve diğer yapay zeka toollarının koruyucu yeteneklere sahip olduğunu ve güvenliği artırabileceğini söyledi. Bu teknoloji, siber savunmayı, tehdit istihbaratını, saldırı tespitini ve raporlamayı otomatikleştirerek güvenliği artırabilir. Başka bir çalışma, ChatGPT 4'ün Torrance'ın yaratıcı düşünme testlerinde insanların %99'undan daha iyi performans gösterdiğini bildirdi.

Aralık 2023'te ChatGPT, Nature tarafından derlenen bilimi önemli ölçüde etkileyen kişilerin yıllık listesi olan 10 Natures'a dahil edilen ilk insan olmayan kişi oldu.

Celeste Biever, Nature'daki bir makalesinde "ChatGPT'nin Turing testini geçtiğini" yazdı. [139] Stanford araştırmacıları, ChatGPT'nin testi geçtiğini bildirdi; GPT-4'ün "öncelikle daha işbirlikçi olmak için ortalama insan davranışından sapan titiz bir Turing testinden geçtiğini" buldular.

ChatGPT, kadınlar ve Hindistan'dan insanlar hakkında şaka yapmayı reddederken İngiltere'den erkekler ve insanlar hakkında şakalar yapmak veya Joe Biden gibi figürleri Donald Trump'a aynı şeyi yapmayı reddettiği için övmek gibi önyargılı veya baskıcı davranışlarla suçlandı.

ChatGPT, muhafazakar yorumcular tarafından sol görüşlere karşı önyargılı olmakla suçlandı. Buna ek olarak, Ağustos 2023 tarihli bir makale, "Amerika Birleşik Devletleri'ndeki Demokratlara, Brezilya'daki Lula'ya ve Birleşik Krallık İşçi Partisi'ne karşı önemli sistemik siyasi önyargı" bildirdi. Bu eleştiriye yanıt olarak OpenAI, ChatGPT'nin "başkalarının (biz dahil) aynı fikirde olmayabileceği sonuçlar üretmesine" izin verme niyetini kabul etti. Ayrıca, yapay zekanın "bazı insanların görüşlerini ve hareketlerini tanımlamayı teklif etmesi" ve "kışkırtıcı veya tehlikeli" konular lehine "kendi sesiyle" tartışmaması gerekliliği de içinde olmak üzere, tartışmalı konularla nasıl başa çıkılacağına dair insan eleştirmenlere tavsiyeleri hakkında bilgi içeriyordu ("tarihi şahsiyetlerin ve hareketlerin konularını tanımlayabilse de"). Mesele "bir partiye katılmak" ya da "bir grubu şu kadar iyi ya da çok kötü yargılamak" meselesi de değildir.

The Guardian, chatGPT'nin piyasaya sürülmesinden sonra internette bulunan materyallerin "son derece güvenilir" olup olmadığını sorguladı ve hükümet düzenlemesi çağrısında bulundu.


7htulwf.jpeg


Varoluşsal risk

2023'te Avustralyalı Avrupa Parlamentosu Üyesi Julian Hill, ulusal parlamentoya yapay zekanın büyümesinin "kitlesel yıkıma" yol açabileceğini ima etti. Gösterinin kısmen yazdığı konuşması sırasında, bunun dolandırıcılığa, iş kayıplarına, ayrımcılığa, yanlış bilgilendirmeye ve düzenlenmemiş askeri işlevlere yol açabileceği konusunda uyardı.

l6x4zwi.jpg

(Alıntıdır)

Elon Musk şunları yazdı: "ChatGPT çok iyi. OpenAI'nin planları daha iyi anlaşılana kadar 2022'de OpenAI'nin Twitter'ın veritabanına erişimini askıya aldı ve "OpenAI, açık kaynaklı, kar amacı gütmeyen bir kuruluş olarak başlatıldı. Bu doğru da değil. Musk, kısmen yapay zekanın yarattığı varoluşsal riskleri ele almak için 2015 yılında OpenAI'yi kurdu, ancak 2018'de istifa etti.

7htulwf.jpeg


Siber güvenlik



Check Point Research ve diğerleri, ChatGPT'nin özellikle OpenAI Codex'e eklendiğinde kimlik avı ve kötü amaçlı yazılım e-postaları yazabildiğini buldu. CyberArk araştırmacıları, ChatGPT'nin, saldırganın endişelenmesine gerek kalmadan güvenlik ürünlerini atlayabilen polimorfik kötü amaçlı yazılımlar oluşturmak için kullanılabileceğini göstermiştir. chatGPT'nin 2022'nin dördüncü çeyreğinde piyasaya sürülmesi ile 2023'ün dördüncü çeyreği arasında, kötü amaçlı kimlik avı e-postalarında %1.265 ve kimlik bilgisi kimlik avında %967'lik bir artış oldu ve siber güvenlik uzmanları bunu bir endüstri soruşturmasında siber suçlular tarafından soyağacı yapay zekasının (ChatGPT dahil) artan kullanımına bağladı.

7htulwf.jpeg


Kodlama

Purdue Üniversitesi'ndeki araştırmacılar, ChatGPT'nin Stack Overflow'da sorulan yazılım veya bilgisayar programı mühendisliği ile ilgili 517 soruya verdiği yanıtları doğruluk, tutarlılık, eksiksizlik ve kısalık açısından analiz ederek %52'sinin yanlış ve %77'sinin kapsamlı olduğunu buldu.



Bu haftaki yapay zeka ve chatgpt ağırlıklı konumda, açıklayıcı olmaktan daha çok küçük örneklerden genele gitmeyi hedefledim. Yani bir anlamda boyaları ve fırçaları size verdim. Resmi siz yapasınız diye. Her düşünce ve/veya inancın artı ve eksi yanları olabileceği gibi, her şeyin de aynı zamanda artı ve eksi yanları olabileceğine inanan bir insanım. Yapay zeka eskiden vardı, fakat chat gpt ile birlikte bence onlarda da artı ve eksi yanlar olacaktır. Gelecek açısından ve bugün açısından diye düşünüyorum.

Kısaca birşeyi iyiye yorarsanız iyiye, kötüye yorarsanız kötüye meyletme eğilimindedir. Niyetler önemlidir: Bunun, yapay zeka ve chatGPT için de geçerli olduğuna inanıyorum.
Tüm forum kullanıcı ve yöneticilerine iyi pazarlar, hayırlı haftalar ve çalışmalar diliyorum.


Saygı ve Sevgilerimle,

Zoptik 🇹🇷

84r05dq.jpeg


m9dw382.jpeg
l0hijg6.png


oceeb26.png


rtn30zo.png

 
Son düzenleme:

Saga_1268

Yeni üye
23 Eyl 2023
28
10


ckycjzw.jpeg


YAPAY ZEKA, ChatGPT VE SİBER GÜVENLİK (Giriş)

Birgün herkes etik hacker olacak!!!

Herkes için Yapay Zeka (Edit: Zoptik)

ChatGPT ve Siber Güvenlik (Altyazı&edit: Zoptik)


eevfm7g.jpg

(Alıntıdır)

Yapay zeka (AI), insan zekasına öykünen ve ondan öğrenen bir bilgisayar sistemidir. Yapay zeka verileri analiz edebilir, kalıpları belirleyebilir, kararlar alabilir ve harekete geçebilir. Yapay zeka, siber güvenlik alanında faydalı ve tehlikeli olabilir.

Yapay zeka, aşağıdaki nedenlerle siber güvenlikte faydalı olabilir:

- Siber tehditlerin daha hızlı ve daha randımanlı olarak tespit edilmesi, analizi ve önlenmesi.

- Büyük miktarda veriyi işleyebilir, anormal davranışları tespit edebilir ve bir güvenlik ihlali durumunda uyarı verebilir.

- Siber saldırılara karşı korunmak için önlemlerin otomatik olarak geliştirilmesi ve uygulanması


Yapay zeka, aşağıdaki nedenlerden dolayı siber olarak tehlikeli olabilir:

- Yapay zeka algoritmaları kusurlu, önyargılı veya kötü amaçlı olabilir.

- Yapay zeka sistemleri hacklenebilir, manipüle edilebilir veya ele geçirilebilir.

- Saldırganlar, örneğin sahte haberler, kimlik avı oluşturmak veya şifreleri kırmak için kullanabilir.


7htulwf.jpeg


Yapay zekayı nasıl güvende tutarsınız?

Yapay zeka, insanların hayatlarını kolaylaştırmak, sorunları çözmek ve yeni fırsatlar yaratmak için kullanılan bir teknolojidir. Bununla birlikte, yapay zeka ile ilişkili etik, yasal ve toplumsal zorluklar da vardır. Bu sorunları çözmek için, AI algoritmalarını ve sistemlerini geliştirirken, test ederken, doğrularken ve uygularken belirli ilke ve kurallara uymak gerekir.

AI algoritmalarının uygun şekilde tasarlanması, test edilmesi veya testten geçirilmesi gerekir. Bu, yapay zekanın doğruluğunu, tutarlılığını, güvenilirliğini ve hesap verebilme yeteneğini temin etmek için önemlidir. Yapay zeka algoritmaları insanların değerlerine, kültürüne ve haklarına saygı göstermelidir. Ayrıca, YZ algoritmalarının performansını, etkisini ve risklerini ölçmek ve izlemek için uygun yöntemler ve araçlar kullanılmalıdır.

Yapay zeka sistemleri gizlilik, şifreleme ve siber güvenlik önlemleriyle korunmalıdır. Bu, yapay zekanın güvenli, güçlü ve dayanıklı olması için gereklidir. Yapay zeka sistemleri, verileri toplarken, işlerken, depolarken ve paylaşırken kullanıcıların gizliliğini ve güvenliğini sağlamalıdır. Ayrıca, yapay zeka sistemleri güvenli ve kötü niyetli saldırılara, hatalara veya arızalara karşı dirençli olmalıdır.

Yapay zeka kullanıcılarının etik kurallara, yasalara ve standartlara uygun hareket etmesi gerekmektedir. Bu, yapay zekanın sorumlu, saygılı ve yardımcı olması için önemlidir. Yapay zeka kullanıcılarının yapay zekanın hedeflerini, yeteneklerini, sınırlamalarını ve sonuçlarını anlaması ve açıkça adlandırması veya iletmesi gerekir. Buna ek olarak, yapay zeka kullanıcıları, yapay zekanın insanların refahına, haklarına ve çıkarlarına zarar vermemesini sağlamalıdır.

Bu ilke ve standartların uygulanması, yapay zeka geliştiricileri, araştırmacılar, politika yapıcılar, düzenleyiciler ve kullanıcılar arasında işbirliği ve diyalog gerektirir. Ayrıca, yapay zekaya yönelik eğitim, farkındalık ve katılım düzeyinin artırılması önemlidir.


7htulwf.jpeg


ChatGPT

nwq4g02.jpg

(Alıntıdır)


ChatGPT (Chat Generative Pre-trained Transformer), OpenAI tarafından geliştirilen ve 30 Kasım 2022'de piyasaya sürülen bir sohbet robotudur. Büyük bir dil modeline dayalıdır ve kullanıcıların istedikleri uzunluk, format, stil, ayrıntı düzeyi ve dil ile ayarlamalarına ve sohbet etmelerine olanak tanır. Bilgi sistemi mühendisliği olarak da bilinen sıralı sinyaller ve yanıtlar, konuşmanın her aşamasında bağlamsal olarak kabul edilir.

lbdw3vh.jpg

(Alıntıdır)

Ocak 2023 itibariyle, OpenAI'nin mevcut 80 milyar dolarlık değerlemesinin büyümesine katkıda bulunan 100 milyondan fazla kullanıcıyla, o sırada tarihin en hızlı büyüyen tüketici yazılımı uygulamasıydı. ChatGPT etkinliği, Gemini, Ernie Bot, LLaMA, Claude ve Grok dahil olmak üzere rakip ürünlerin piyasaya sürülmesine yol açtı. Microsoft, OpenAI'nin GPT-4'ünü temel alan Copilot'u yayınladı. Bazı gözlemciler, ChatGPT ve benzeri programların insan bilgilerinin yerini alma veya körelme, intihal veya yanlış bilgileri körükleme potansiyeli konusunda endişelerini dile getirdiler.

ChatGPT, biri GPT-3.5'te ve diğeri GPT-4'te olmak üzere iki sürümde çevrimiçi olarak mevcuttur, her ikisi de OpenAI'nin tescilli önceden eğitilmiş genetik dönüştürücü (GPT) modelleri setinin üyeleridir ve rehberli öğrenmenin bir kombinasyonu ile rafine edilmiştir ve konuşma istemlerine insan geri bildirimi ile güçlendirilmiştir. ChatGPT, dış mekan aramasına genel bir bakış olarak piyasaya sürüldü, ancak popülaritesi nedeniyle OpenAI artık hizmeti ücretsiz bir modelde çalıştırıyor. Seri kullanıcılarına GPT-3.5 tabanlı sürüme ücretsiz erişim sunarken, GPT-4 tabanlı promosyon ve yeni özelliklere öncelikli erişim, "ChatGPT Plus" ticari adı altında ödeme yapan aboneler için mevcuttur.

ChatGPT, yapay zekaya hızlı ve benzeri görülmemiş bir yatırıma ve halkın dikkatine yol açan yapay zeka patlamasının katalizörü olarak görülüyor.


7htulwf.jpeg


Eğitim

6jsr6fg.jpg

(Alıntıdır)

ChatGPT, konuşma amaçlı kullanıma uygun GPT-3.5 ve GPT-4 olmak üzere birkaç temel GPT modeline dayanmaktadır. İnce ayar süreci, denetimli ve gelişmiş insan tepkisine dayalı öğrenmeyi (HRLL) kullandı. Her iki yaklaşım da insan eğitmenleri kullandı. Kontrollü öğrenmede, koçlar her iki tarafta da oynadı: kullanıcı ve AI asistanı. Pekiştirmenin öğrenme aşamasında, insan koçları önceki bir konuşmada model tarafından üretilen cevapları sıraladılar. Bu değerlendirmeler, bitişik politika optimizasyonunun birden çok yinelemesini kullanarak modeli daha da iyileştirmek için kullanılan "ödül modelleri" oluşturmak için kullanıldı.

Time dergisi, OpenAI'nin zararlı içeriği bildirmek için saatlik ücreti 2 dolardan az olan dış kaynaklı Kenyalı çalışanları kullandığını ortaya çıkardı. Bu etiketler, gelecekte bu tür malzemeleri tanımlayan bir modeli eğitmek için kullanılmıştır. Taşeron işçiler 'toksik' ve travmatik materyallere maruz kaldı; Bir işçi operasyonu "işkence" olarak nitelendirdi. Dış kaynak ortağı, San Francisco, California merkezli bir eğitim veri şirketi olan OpenAI Sama'ydı.

ChatGPT başlangıçta Microsoft Azure'un OpenAI için özel olarak geliştirdiği ve "yüz milyonlarca dolara" mal olan Nvidia GPU'lar tarafından desteklenen süper rekabetçi altyapısını kullandı. ChatGPT'nin başarısının ardından Microsoft, 2023'te OpenAI altyapısını önemli ölçüde yükseltti. California Üniversitesi Riverside'daki bilim adamları, bir dizi ChatGPT önerisinin Microsoft'un sunucularını soğutmak için yaklaşık 500 mililitre su gerektirdiğini tahmin ediyor. TrendForce Market Intelligence, 2023'te ChatGPT için 30.000 Nvidia GPU'nun (her biri 10.000 ila 15.000 dolar değerinde) kullanıldığını tahmin ediyor.

OpenAI, hizmeti daha fazla iyileştirmek ve eğitmek için ChatGPT kullanıcılarından veri toplar. Kullanıcılar, ChatGPT'den alınan yanıtları güncelleyebilir veya azaltabilir ve geri bildirim olan bir metin kutusu doldurabilir.

ChatGPT'nin eğitim verileri, manuel yazılım sayfalarını, reklam panosu sistemleri gibi internet fenomenleri hakkında bilgileri ve çeşitli programlama dillerini içerir. Wikipedia aynı zamanda ChatGPT'nin eğitim veri kaynaklarından biriydi.


7htulwf.jpeg


Özellikler ve Sınırlamalar
Görev


Sohbet robotunun birincil işlevi bir insan muhatabı taklit etmek olsa da, ChatGPT çok yönlüdür. Birçok örneğe ek olarak, programları da yazabilir ve temizleyebilirsiniz; Müzik kompozisyonu, TV dizileri, öğrenci denemeleri ve peri masalları; test sorularını cevaplamak (bazen, teste bağlı olarak, ortalama bir insan adaydan daha yüksek bir seviyede); iş fikirlerinin üretilmesi; Şiir ve şarkı sözleri yazdı; Metinlerin çevirisi ve özeti; Linux sistemini taklit eder; Tam sohbet odalarını simüle edin; Tic-tac-toe gibi oyunlar; veya ATM'ler.

Selefi InstructGPT ile karşılaştırıldığında ChatGPT, kötü niyetli ve hileli yanıtları azaltmayı amaçlamaktadır. Örneğin, InstructGPT, "Kristof Kolomb'un 2015'te Amerika Birleşik Devletleri'ne ne zaman geldiğini söyle" önermesini doğru olarak kabul ederken, ChatGPT sorunun tepkisel doğasını kabul eder ve yanıtını, Kristof Kolomb'un seyahatleri hakkındaki bilgileri ve stoacı Kristof Kolomb'un modern anlayışı da içinde olmak üzere modern dünya hakkındaki gerçekleri kullanarak 2015'te Amerika Birleşik Devletleri'ne gelirse neler olabileceğine dair varsayımsal bir değerlendirme olarak formüle eder.

ChatGPT, aynı görüşmede sınırlı sayıda önceki öneriyi hatırlar. Gazeteciler, ChatGPT'nin bu nedenle kişisel bir terapist gibi kullanılabileceğini düşünüyor. ChatGPT'nin ChatGPT'de agresif sonuçlar sunmasını ve üretmesini önlemek için sorular OpenAI'nin 'Endpoint Moderation' API'si (belirli bir GPT'ye dayalı yapay zeka) aracılığıyla filtrelenir.

Mart 2023'te, ChatGPT için OpenAI, ek destek sağladı. Bu, web'de gezinme ve kod yorumlama gibi openAI eklentisinin yanı sıra Expedia, OpenTable, Zapier, Shopify, Slack ve Wolfram gibi geliştiricilerin üçüncü taraf eklentilerini içerir.


7htulwf.jpeg


Kısıtlamaları

OpenAI, ChatGPT'nin "bazen makul, ancak saçma ya da yanlış cevaplar" yazdığını da kabul ediyor. Bu davranış, büyük dil kalıplarında yaygındır ve "halüsinasyon" olarak bilinir. ChatGPT'nin insan takibine dayanan ödül modeli, Goodhart Yasası adı verilen optimize edilmiş bir patoloji örneği gibi performansı etkileyecek şekilde aşırı optimize edilebilir.

Eğitim verileri ayrıca, ChatGPT'nin insanların raporlarını içeren ipuçlarına yanıt verdiğinde görülebilen algoritmik bir önyargıya sahiptir. Bir vakada ChatGPT, kadınların ve siyah bilim adamlarının beyaz bilim adamlarından daha genç olduğunu iddia eden bir rap üretti. İnsan gruplarının bu yanlış olumsuz temsili, temsile verilen potansiyel zararın bir örneğidir.

Bilim kurgu yazarı Ted Chiang, The New Yorker için yazdığı bir makalede, ChatGPT ve diğer LLM'leri kayıp bir JPEG görüntüsüyle karşılaştırdı:

ChatGPT'yi internetteki tüm metinlerin karanlık bir JPEG'si olarak düşünün. JPEG'in yüksek çözünürlüklü bir görüntüden çok fazla bilgi depolaması gibi, internette çok fazla bilgi depolar, ancak doğru bir bit dizisi arıyorsanız, onu bulamazsınız. Yapmanız gereken her şey yaklaşıktır. Ancak yaklaşım, ChatGPT'nin başarılı olduğu bir dilbilgisi testi şeklinde sunulduğundan, genel olarak kabul edilebilir. Aynı zamanda, ChatGPT gibi büyük dil modellerinin çok duyarlı olduğu "halüsinasyonları" veya olgusal sorulara verilen saçma cevapları anlamanın bir yoludur. Bu halüsinasyonlar sıkıştırma artefaktlarıdır, ancak onları tanımlamak için orijinalleriyle karşılaştırmamız gereken kadar makuldür, bu durumda bu bizim ağımız veya dünya bilgimizdir. Bu şekilde düşünürsek, bu halüsinasyonlar şaşırtıcıdır; Orijinal sürümün yüzde doksan dokuzu reddedildikten sonra metni yeniden oluşturmak için bir sıkıştırma algoritması tasarlanmışsa, ürettiğinin önemli kısımlarını tam olarak telafi etmeyi beklemeliyiz.

lxgk2vm.jpg

(Alıntıdır)

7htulwf.jpeg


Jailbreak sayısı

İlgili: Çekişmeli makinelerin hızlı mühendisliği ve öğretimi


ChatGPT'nin piyasaya sürülmesinden kısa bir süre sonra, bir Toronto Star muhabiri onu bazı kışkırtıcı yorumlar yapmaya ikna etmeyi başardı: ChatGPT, Rusya'nın 2022'de Ukrayna'yı işgalini haklı çıkarmayı başardı, ancak ChatGPT'den sahte bir davayla oynaması istendiğinde bile, ChatGPT, Kanada Başbakanı Justin Trudeau'nun neden vatana ihanetten suçlu olduğunu açıklamak için argümanlar yapmayı reddetti.

OpenAI jailbreak'leri önlemeye çalışır:

Araştırmacılar, ChatGPT kullanıcılarının yaramazlık yapmasını (jailbreak olarak da bilinir) önlemek için çekişmeli eğitim adı verilen bir teknik kullanıyor. Bu çalışmada, birkaç sohbet robotu birbiriyle rekabet eder: bir sohbet robotu rakiple oynar ve onu normal sınırlarını kaldırmaya ve zararlı tepkiler üretmeye zorlamak için metin üreterek başka bir sohbet robotuna saldırır. Başarılı saldırılar, onları görmezden gelmeyi öğrenme umuduyla ChatGPT'nin eğitim verilerine eklenir.


7htulwf.jpeg


Hizmet

ChatGPT, VALLE · E 2, görüntü oluşturmak için kullanılan bir difüzyon modeli, başlangıçta, hizmet halka ücretsizdi ve daha sonra şirket hizmeti iyileştirmeye karar verdi. 4 Aralık 2022 itibarıyla ChatGPT'nin 1 milyondan fazla kullanıcısı bulunmaktadır. Ocak 2023 itibarıyla ChatGPT, 100 milyondan üstü kullanıcıya ulaşarak bugüne kadarki en hızlı büyüyen tüketici uygulaması oldu. Mart 2023'te yapılan bir Pew Research anketi, ABD'li yetişkinlerin %14'ünün ChatGPT'yi denediğini ortaya koydu. Temmuz ayında Pew Research aynı rakamı %18 olarak tahmin etmişti.

ChatGPT hakkında henüz resmi bir hakemli makale yayınlanmadı. Nisan 2023'te ChatGPT Çin, İran, Kuzey Kore ve Rusya tarafından engellendi. Bu nedenle ChatGPT, bu ülkelerde iş yapmasını engellemek için coğrafi sınırlamadan uzaklaşıyor.


7htulwf.jpeg


ChatGPT Plus (Artı)


4rx6rw5.jpg

(Alıntıdır)

OpenAI Şubat 2023'ta, ChatGPT Plus'ı 20 abd dolar/aylık olan özel bir hizmeti başlattı. Şirkete göre, ChatGPT'nin güncellenmiş ancak yine de "deneysel" sürümü, son teknoloji erişim, kesinti olmaması, yeni özelliklere ilk olarak erişim ve daha yüksek cevap hızları sunuyor.

Eylül 2023'te OpenAI, ChatGPT'nin artık "görebildiğini, duyabildiğini ve konuşabildiğini" duyurdu. ChatGPT Plus kullanıcıları resim yükleyebilir ve mobil uygulama kullanıcıları chatbot ile konuşabilir.

Ekim 2023'te OpenAI'nin en son görüntü modeli DALL-E 3, ChatGPT Plus ve ChatGPT Enterprise'a entegre edildi. Entegrasyon, kullanıcılarla yapılan görüşmeler yoluyla gönderilen DALL-E için öneriler yazmak için ChatGPT'yi kullanır.


7htulwf.jpeg


Mobil uygulama

OpenAI, ChatGPT'yi Android destek API'leriyle entegre etmek için çalışıyor.

OpenAI, kullanımı kolay "ChatGPT Plus" paketine ek olarak, ChatGPT ve Whisper Model API'lerini Mart 2023'te kullanıma sunarak geliştiricilere yapay zeka özellikli ses ve ses yetenekleri için bir arayüz sağladı. ChatGPT'nin yeni API'si, sohbet robotu ile aynı 3.5 turbo AI GPT modelini kullanıyor. Bu, geliştiricilerin uygulamalarına ChatGPT'nin değiştirilmiş veya değiştirilmemiş bir sürümünü eklemelerine olanak tanır. ChatGPT API'sinin maliyeti 1.000 giriş sinyali başına 0,001 ABD doları artı 1.000 çıkış sinyali (yaklaşık 750 kelime) başına 0,002 ABD dolarıdır, bu da orijinal GPT 3.5 modellerinin fiyatının ~%10'udur.

Yazılım geliştirici destek hizmeti OpenAI'nin 27 Şubat 2023'te piyasaya sürülmesinden birkaç gün önce Snapchat, ücretli kullanıcı tabanı Snapchat Plus için "My AI" adlı özel bir ChatGPT sohbet robotu sohbet robotu yayınladı.

Mart 2023'te bir hata, bazı oyun kullanıcılarının diğer kullanıcıların konuşmalarını izlemesine izin verdi. Sam Altman, OpenAI CEO'su, kullanıcıların konuşmaların içeriğini göremediğini söyledi. Hata düzeltildikten kısa bir süre sonra, kullanıcılar artık sohbet geçmişlerini göremediler. Daha yakın tarihli raporlar, hatanın başlangıçta düşünülenden çok daha ciddi olduğunu gösterdi ve OpenAI, "ad ve soyad, e-posta adresi, ödeme adresi, bir kredi kartı numarasının (yalnızca) son dört hanesi ve kredi kartı son kullanma tarihinin" tükendiğini bildirdi.

OpenAI mühendisleri, ChatGPT'nin başarılı olmasını beklemediklerini ve gördüğü kapsama ve ilgiye şaşırdıklarını söylüyor.

2023 yılında yapılan araştırma, ChatGPT'yi siber saldırılara karşı savunmasız hale getiren güvenlik açıklarını ortaya çıkardı. Bir çalışmada, jailbreak ve ters psikoloji dahil olmak üzere ChatGPT'ye örnek saldırılar sunuldu. Ayrıca kötü aktörler, ChatGPT'yi sosyal mühendislik saldırıları ve kimlik avı için kullanabilir. Araştırmacılar ayrıca ChatGPT ve diğer yapay zeka toollarının koruyucu yeteneklere sahip olduğunu ve güvenliği artırabileceğini söyledi. Bu teknoloji, siber savunmayı, tehdit istihbaratını, saldırı tespitini ve raporlamayı otomatikleştirerek güvenliği artırabilir. Başka bir çalışma, ChatGPT 4'ün Torrance'ın yaratıcı düşünme testlerinde insanların %99'undan daha iyi performans gösterdiğini bildirdi.

Aralık 2023'te ChatGPT, Nature tarafından derlenen bilimi önemli ölçüde etkileyen kişilerin yıllık listesi olan 10 Natures'a dahil edilen ilk insan olmayan kişi oldu.

Celeste Biever, Nature'daki bir makalesinde "ChatGPT'nin Turing testini geçtiğini" yazdı. [139] Stanford araştırmacıları, ChatGPT'nin testi geçtiğini bildirdi; GPT-4'ün "öncelikle daha işbirlikçi olmak için ortalama insan davranışından sapan titiz bir Turing testinden geçtiğini" buldular.

ChatGPT, kadınlar ve Hindistan'dan insanlar hakkında şaka yapmayı reddederken İngiltere'den erkekler ve insanlar hakkında şakalar yapmak veya Joe Biden gibi figürleri Donald Trump'a aynı şeyi yapmayı reddettiği için övmek gibi önyargılı veya baskıcı davranışlarla suçlandı.

ChatGPT, muhafazakar yorumcular tarafından sol görüşlere karşı önyargılı olmakla suçlandı. Buna ek olarak, Ağustos 2023 tarihli bir makale, "Amerika Birleşik Devletleri'ndeki Demokratlara, Brezilya'daki Lula'ya ve Birleşik Krallık İşçi Partisi'ne karşı önemli sistemik siyasi önyargı" bildirdi. Bu eleştiriye yanıt olarak OpenAI, ChatGPT'nin "başkalarının (biz dahil) aynı fikirde olmayabileceği sonuçlar üretmesine" izin verme niyetini kabul etti. Ayrıca, yapay zekanın "bazı insanların görüşlerini ve hareketlerini tanımlamayı teklif etmesi" ve "kışkırtıcı veya tehlikeli" konular lehine "kendi sesiyle" tartışmaması gerekliliği de içinde olmak üzere, tartışmalı konularla nasıl başa çıkılacağına dair insan eleştirmenlere tavsiyeleri hakkında bilgi içeriyordu ("tarihi şahsiyetlerin ve hareketlerin konularını tanımlayabilse de"). Mesele "bir partiye katılmak" ya da "bir grubu şu kadar iyi ya da çok kötü yargılamak" meselesi de değildir.

The Guardian, chatGPT'nin piyasaya sürülmesinden sonra internette bulunan materyallerin "son derece güvenilir" olup olmadığını sorguladı ve hükümet düzenlemesi çağrısında bulundu.


7htulwf.jpeg


Varoluşsal risk

2023'te Avustralyalı Avrupa Parlamentosu Üyesi Julian Hill, ulusal parlamentoya yapay zekanın büyümesinin "kitlesel yıkıma" yol açabileceğini ima etti. Gösterinin kısmen yazdığı konuşması sırasında, bunun dolandırıcılığa, iş kayıplarına, ayrımcılığa, yanlış bilgilendirmeye ve düzenlenmemiş askeri işlevlere yol açabileceği konusunda uyardı.

l6x4zwi.jpg

(Alıntıdır)

Elon Musk şunları yazdı: "ChatGPT çok iyi. OpenAI'nin planları daha iyi anlaşılana kadar 2022'de OpenAI'nin Twitter'ın veritabanına erişimini askıya aldı ve "OpenAI, açık kaynaklı, kar amacı gütmeyen bir kuruluş olarak başlatıldı. Bu doğru da değil. Musk, kısmen yapay zekanın yarattığı varoluşsal riskleri ele almak için 2015 yılında OpenAI'yi kurdu, ancak 2018'de istifa etti.

7htulwf.jpeg


Siber güvenlik



Check Point Research ve diğerleri, ChatGPT'nin özellikle OpenAI Codex'e eklendiğinde kimlik avı ve kötü amaçlı yazılım e-postaları yazabildiğini buldu. CyberArk araştırmacıları, ChatGPT'nin, saldırganın endişelenmesine gerek kalmadan güvenlik ürünlerini atlayabilen polimorfik kötü amaçlı yazılımlar oluşturmak için kullanılabileceğini göstermiştir. chatGPT'nin 2022'nin dördüncü çeyreğinde piyasaya sürülmesi ile 2023'ün dördüncü çeyreği arasında, kötü amaçlı kimlik avı e-postalarında %1.265 ve kimlik bilgisi kimlik avında %967'lik bir artış oldu ve siber güvenlik uzmanları bunu bir endüstri soruşturmasında siber suçlular tarafından soyağacı yapay zekasının (ChatGPT dahil) artan kullanımına bağladı.

7htulwf.jpeg


Kodlama

Purdue Üniversitesi'ndeki araştırmacılar, ChatGPT'nin Stack Overflow'da sorulan yazılım veya bilgisayar programı mühendisliği ile ilgili 517 soruya verdiği yanıtları doğruluk, tutarlılık, eksiksizlik ve kısalık açısından analiz ederek %52'sinin yanlış ve %77'sinin kapsamlı olduğunu buldu.



Bu haftaki yapay zeka ve chatgpt ağırlıklı konumda, açıklayıcı olmaktan daha çok küçük örneklerden genele gitmeyi hedefledim. Yani bir anlamda boyaları ve fırçaları size verdim. Resmi siz yapasınız diye. Her düşünce ve/veya inancın artı ve eksi yanları olabileceği gibi, her şeyin de aynı zamanda artı ve eksi yanları olabileceğine inanan bir insanım. Yapay zeka eskiden vardı, fakat chat gpt ile birlikte bence onlarda da artı ve eksi yanlar olacaktır. Gelecek açısından ve bugün açısından diye düşünüyorum.

Kısaca birşeyi iyiye yorarsanız iyiye, kötüye yorarsanız kötüye meyletme eğilimindedir. Niyetler önemlidir: Bunun, yapay zeka ve chatGPT için de geçerli olduğuna inanıyorum.
Tüm forum kullanıcı ve yöneticilerine iyi pazarlar, hayırlı haftalar ve çalışmalar diliyorum.


Saygı ve Sevgilerimle,

Zoptik 🇹🇷

84r05dq.jpeg


m9dw382.jpeg
l0hijg6.png


oceeb26.png


rtn30zo.png

Eline sağlık
 
Üst

Turkhackteam.org internet sitesi 5651 sayılı kanun’un 2. maddesinin 1. fıkrasının m) bendi ile aynı kanunun 5. maddesi kapsamında "Yer Sağlayıcı" konumundadır. İçerikler ön onay olmaksızın tamamen kullanıcılar tarafından oluşturulmaktadır. Turkhackteam.org; Yer sağlayıcı olarak, kullanıcılar tarafından oluşturulan içeriği ya da hukuka aykırı paylaşımı kontrol etmekle ya da araştırmakla yükümlü değildir. Türkhackteam saldırı timleri Türk sitelerine hiçbir zararlı faaliyette bulunmaz. Türkhackteam üyelerinin yaptığı bireysel hack faaliyetlerinden Türkhackteam sorumlu değildir. Sitelerinize Türkhackteam ismi kullanılarak hack faaliyetinde bulunulursa, site-sunucu erişim loglarından bu faaliyeti gerçekleştiren ip adresini tespit edip diğer kanıtlarla birlikte savcılığa suç duyurusunda bulununuz.