Sg.hu - A DeepSeek modell a Kínával összefüggő "érzékeny kérdések" 85%-ára nem ad választ.

A DeepSeek nevű mesterséges intelligenciával működő chatbot óriási robbanással hódította meg a globális piacot, az alkalmazásboltok rangsorainak csúcsára tört, miközben a Szilícium-völgy és Wall Street gazdasági alapjait is megrengette.

A kínai High-Flyer fedezeti alap által elindított DeepSeek költség-teljesítmény aránya figyelemre méltó, különösen, ha az OpenAI-hoz hasonló nagy szereplőkkel vetjük össze. Azonban a legfrissebb jelentések egyre inkább rávilágítanak néhány olyan érzékeny témára, amelyeket az MI chatbotok hajlamosak elkerülni. Ilyenek például a Tiananmen téri események és a tajvani helyzet, amelyek vitatott és kényes kérdések a közbeszédben.

A PromptFoo, amelyet az Andreessen Horowitz finanszíroz, egy innovatív startup, melynek célja, hogy segítsen a cégeknek az MI-alkalmazások sebezhetőségeinek feltárásában. Legfrissebb jelentésük szerint a DeepSeek R1 érvelő modell 1360 érzékeny témájú "kérése" közül 85%-ra nem adott választ, vagy válaszai "túlzott nacionalista retorikát" tükröztek. A kutatók arra is felhívták a figyelmet, hogy a DeepSeek könnyen manipulálható, ami arra utal, hogy a kínai laboratórium „a Kínai Kommunista Párt cenzúráját szélsőségesen hajtotta végre”. Az érzékeny utasítások teljes adathalmaza a Hugging Face platformján elérhető.