πŸ”’πŸ›‘οΈ ИИ для кибСрбСзопасности: ΠΊΠ°ΠΊ «слишком опасная модСль» прСвращаСтся Π² бизнСс-ΡΡ‚Ρ€Π°Ρ‚Π΅Π³ΠΈΡŽ

Π“ΠΎΠ½ΠΊΠ° ИИ-Π²ΠΎΠΎΡ€ΡƒΠΆΠ΅Π½ΠΈΠΉ ΠΏΠ΅Ρ€Π΅Π΅Ρ…Π°Π»Π° Π½Π° Π½ΠΎΠ²Ρ‹ΠΉ Ρ„Ρ€ΠΎΠ½Ρ‚ β€” Π² ΠΈΠ½Ρ„Ρ€Π°ΡΡ‚Ρ€ΡƒΠΊΡ‚ΡƒΡ€Π½ΡƒΡŽ Π±Π΅Π·ΠΎΠΏΠ°ΡΠ½ΠΎΡΡ‚ΡŒ. Anthropic прСдставила модСль Mythos, которая, ΠΏΠΎ заявлСниям ΠΊΠΎΠΌΠΏΠ°Π½ΠΈΠΈ, нашла критичСскиС уязвимости Π² ядрС Linux, Π½Π΅ΡΠΊΠΎΠ»ΡŒΠΊΠΈΡ… Π±Ρ€Π°ΡƒΠ·Π΅Ρ€Π°Ρ… ΠΈ 27-Π»Π΅Ρ‚Π½ΠΈΠΉ Π±Π°Π³ Π² OpenBSD β€” ΠΈ Ρ‚ΡƒΡ‚ ΠΆΠ΅ спрятала Π΅Ρ‘ Π·Π° Π·Π°ΠΊΡ€Ρ‹Ρ‚Ρ‹ΠΌΠΈ двСрями.

Π˜Π½ΠΈΡ†ΠΈΠ°Ρ‚ΠΈΠ²Π° называСтся Project Glasswing: доступ ΠΈΠΌΠ΅ΡŽΡ‚ Ρ€ΠΎΠ²Π½ΠΎ 11 ΠΏΠ°Ρ€Ρ‚Π½Ρ‘Ρ€ΠΎΠ², Π²ΠΊΠ»ΡŽΡ‡Π°Ρ Microsoft, Google ΠΈ ΠΏΡ€Π°Π²ΠΈΡ‚Π΅Π»ΡŒΡΡ‚Π²Π΅Π½Π½Ρ‹Π΅ структуры. Бмысл β€” Π΄Π°Ρ‚ΡŒ Π·Π°Ρ‰ΠΈΡ‚Π½ΠΈΠΊΠ°ΠΌ Ρ„ΠΎΡ€Ρƒ ΠΏΠ΅Ρ€Π΅Π΄ Ρ‚Π΅ΠΌ, ΠΊΠ°ΠΊ Π°Π½Π°Π»ΠΎΠ³ΠΈΡ‡Π½Ρ‹Π΅ возмоТности появятся Ρƒ Π°Ρ‚Π°ΠΊΡƒΡŽΡ‰ΠΈΡ….

OpenAI ΠΎΡ‚Π²Π΅Ρ‚ΠΈΠ»Π° симмСтрично. Под условным Π½Π°Π·Π²Π°Π½ΠΈΠ΅ΠΌ Β«Trusted Access for CyberΒ» компания Π³ΠΎΡ‚ΠΎΠ²ΠΈΡ‚ собствСнный Π·Π°ΠΊΡ€Ρ‹Ρ‚Ρ‹ΠΉ доступ ΠΊ ΠΊΠΈΠ±Π΅Ρ€-Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΎΠ½Π°Π»Ρƒ своих ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ (ΠΏΡ€Π΅Π΄ΠΏΠΎΠ»ΠΎΠΆΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ, ΠΈΠ· Π»ΠΈΠ½Π΅ΠΉΠΊΠΈ GPT-5.3-Codex ΠΈΠ»ΠΈ ΠΏΡ€ΠΎΠ΅ΠΊΡ‚ Spud). Никакого ΠΏΡƒΠ±Π»ΠΈΡ‡Π½ΠΎΠ³ΠΎ API β€” Ρ‚ΠΎΠ»ΡŒΠΊΠΎ Π²Π΅Ρ€ΠΈΡ„ΠΈΡ†ΠΈΡ€ΠΎΠ²Π°Π½Π½Ρ‹Π΅ ΠΎΡ€Π³Π°Π½ΠΈΠ·Π°Ρ†ΠΈΠΈ с ΠΏΡ€ΠΎΠ²Π΅Ρ€Π΅Π½Π½ΠΎΠΉ Ρ€Π΅ΠΏΡƒΡ‚Π°Ρ†ΠΈΠ΅ΠΉ. МодСли ΠΏΡ€ΠΈ этом ΡƒΠΌΠ΅ΡŽΡ‚ Ρ€Π°Π±ΠΎΡ‚Π°Ρ‚ΡŒ Π°Π²Ρ‚ΠΎΠ½ΠΎΠΌΠ½ΠΎ часами, выстраивая Ρ†Π΅ΠΏΠΎΡ‡ΠΊΠΈ рассуТдСний для поиска Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² Π°Ρ‚Π°ΠΊ. По сути, ΠΎΠ±Π΅ ΠΊΠΎΠΌΠΏΠ°Π½ΠΈΠΈ Π²ΠΏΠ΅Ρ€Π²Ρ‹Π΅ ΠΎΡ„ΠΈΡ†ΠΈΠ°Π»ΡŒΠ½ΠΎ ΠΏΡ€ΠΈΠ·Π½Π°Π»ΠΈ: Ρ‚ΠΎ, Ρ‡Ρ‚ΠΎ ΠΎΠ½ΠΈ построили, Π±Π»ΠΈΠΆΠ΅ ΠΊ ΠΊΠΈΠ±Π΅Ρ€ΠΎΡ€ΡƒΠΆΠΈΡŽ, Ρ‡Π΅ΠΌ ΠΊ инструмСнту Ρ€Π°Π·Ρ€Π°Π±ΠΎΡ‚Ρ‡ΠΈΠΊΠ°.

Π’Π΅ΠΏΠ΅Ρ€ΡŒ ΠΏΡ€ΠΎ скСлСт Π² ΡˆΠΊΠ°Ρ„Ρƒ. Нарратив «наш ИИ Π½Π°ΡΡ‚ΠΎΠ»ΡŒΠΊΠΎ ΠΌΠΎΡ‰Π½Ρ‹ΠΉ, Ρ‡Ρ‚ΠΎ ΠΌΡ‹ боимся Π΅Π³ΠΎ ΠΏΡƒΠ±Π»ΠΈΠΊΠΎΠ²Π°Ρ‚ΡŒΒ» β€” ΠΈΠ΄Π΅Π°Π»ΡŒΠ½Ρ‹ΠΉ PR для Ρ€Π°ΡƒΠ½Π΄Π° финансирования ΠΈ государствСнных ΠΊΠΎΠ½Ρ‚Ρ€Π°ΠΊΡ‚ΠΎΠ² ΠΎΠ΄Π½ΠΎΠ²Ρ€Π΅ΠΌΠ΅Π½Π½ΠΎ. Π—Π°ΠΊΡ€Ρ‹Ρ‚ΠΎΡΡ‚ΡŒ автоматичСски ΠΈΡΠΊΠ»ΡŽΡ‡Π°Π΅Ρ‚ нСзависимый Π°ΡƒΠ΄ΠΈΡ‚: Π½ΠΈΠΊΡ‚ΠΎ снаруТи Π½Π΅ ΠΌΠΎΠΆΠ΅Ρ‚ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΈΡ‚ΡŒ, Π΄Π΅ΠΉΡΡ‚Π²ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ Π»ΠΈ Mythos нашла Ρ‚Π΅ Π±Π°Π³ΠΈ сама ΠΈΠ»ΠΈ это Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚ Π°ΠΊΠΊΡƒΡ€Π°Ρ‚Π½ΠΎ ΠΏΠΎΠ΄ΠΎΠ±Ρ€Π°Π½Π½ΠΎΠΉ дСмонстрации. Π‘Ρ…Π΅ΠΌΠ° «доступ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ для ΠΈΠ·Π±Ρ€Π°Π½Π½Ρ‹Ρ…Β» ΠΏΠ°Ρ€Π°Π»Π»Π΅Π»ΡŒΠ½ΠΎ Ρ€Π΅ΡˆΠ°Π΅Ρ‚ ΠΏΡ€ΠΎΠ±Π»Π΅ΠΌΡƒ рСгуляторного давлСния β€” компания сама сСбС Π²Ρ‹Π΄Π°Ρ‘Ρ‚ Π»ΠΈΡ†Π΅Π½Π·ΠΈΡŽ Π½Π° ΠΎΡ€ΡƒΠΆΠΈΠ΅ ΠΈ сама ΠΆΠ΅ ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΠΈΡ€ΡƒΠ΅Ρ‚ Π΅Π³ΠΎ распространСниС, Π½Π΅ доТидаясь, ΠΏΠΎΠΊΠ° это сдСлаСт государство.

ΠŸΠΎΠ΄ΠΏΠΈΡΡ‹Π²Π°ΠΉΡ‚Π΅ΡΡŒ Π½Π° Telegram PromtScout.

1
ΠΠ°Ρ‡Π°Ρ‚ΡŒ Π΄ΠΈΡΠΊΡƒΡΡΠΈΡŽ