🧠 Anthropic создаёт CVSS для Π΄ΠΆΠ΅ΠΉΠ»Π±Ρ€Π΅ΠΉΠΊΠΎΠ² ИИ

Π˜ΡΡ‚ΠΎΡ€ΠΈΡ, которая Π½Π°Ρ‡Π°Π»Π°ΡΡŒ с ΠΏΡ€ΠΈΠ½ΡƒΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΠ³ΠΎ ΠΎΡ‚ΠΊΠ»ΡŽΡ‡Π΅Π½ΠΈΡ ΠΌΠΎΠ΄Π΅Π»Π΅ΠΉ Fable 5 ΠΈ Mythos 5 властями БША, ΠΏΠΎΠ»ΡƒΡ‡ΠΈΠ»Π° Π½Π΅ΠΎΠΆΠΈΠ΄Π°Π½Π½ΠΎΠ΅ ΠΏΡ€ΠΎΠ΄ΠΎΠ»ΠΆΠ΅Π½ΠΈΠ΅. Π’ΠΎΠ³Π΄Π° Anthropic Π²ΠΎΠ·ΠΌΡƒΡ‰Π°Π»Π°ΡΡŒ, Π½ΠΎ Ρ‚Π΅ΠΏΠ΅Ρ€ΡŒ сдСлала ΠΈΠ· этого ΠΏΠΎΠ»ΡŒΠ·Ρƒ β€” ΠΏΡ€Π΅Π΄Π»ΠΎΠΆΠΈΠ»Π° ΠΏΠ΅Ρ€Π²Ρ‹ΠΉ Π² ΠΌΠΈΡ€Π΅ Ρ„Ρ€Π΅ΠΉΠΌΠ²ΠΎΡ€ΠΊ для ΠΎΡ†Π΅Π½ΠΊΠΈ опасности Π²Π·Π»ΠΎΠΌΠ° ИИ. По сути, это Π°Π½Π°Π»ΠΎΠ³ CVSS, Ρ‚ΠΎΠ»ΡŒΠΊΠΎ для ΠΏΡ€ΠΎΠΌΠΏΡ‚ΠΎΠ² ΠΈ Π·Π°Ρ‰ΠΈΡ‚Π½Ρ‹Ρ… ΠΌΠ΅Ρ…Π°Π½ΠΈΠ·ΠΌΠΎΠ². Π§Π΅Ρ‚Ρ‹Ρ€Π΅ критСрия: насколько растут возмоТности Π°Ρ‚Π°ΠΊΡƒΡŽΡ‰Π΅Π³ΠΎ, насколько унивСрсалСн ΠΌΠ΅Ρ‚ΠΎΠ΄, Π»Π΅Π³ΠΊΠΎ Π»ΠΈ Π΅Π³ΠΎ ΠΏΡ€ΠΈΠΌΠ΅Π½ΠΈΡ‚ΡŒ ΠΈ слоТно Π»ΠΈ ΠΎΠ±Π½Π°Ρ€ΡƒΠΆΠΈΡ‚ΡŒ. ΠžΡ†Π΅Π½ΠΊΠ° β€” ΠΎΡ‚ нуля Π΄ΠΎ Ρ‡Π΅Ρ‚Ρ‹Ρ€Ρ‘Ρ… Π±Π°Π»Π»ΠΎΠ².

Для IT-сообщСства это сигнал: Π±Π΅Π·ΠΎΠΏΠ°ΡΠ½ΠΎΡΡ‚ΡŒ нСйросСтСй пСрСстаёт Π±Ρ‹Ρ‚ΡŒ ΡƒΠ΄Π΅Π»ΠΎΠΌ исслСдоватСлСй ΠΈ становится ΠΏΠΎΠ»Π½ΠΎΡ†Π΅Π½Π½ΠΎΠΉ ΠΈΠ½ΠΆΠ΅Π½Π΅Ρ€Π½ΠΎΠΉ дисциплиной. Amazon, Microsoft ΠΈ Google ΡƒΠΆΠ΅ ΠΏΠΎΠ΄ΠΊΠ»ΡŽΡ‡ΠΈΠ»ΠΈΡΡŒ ΠΊ ΠΎΠ±ΡΡƒΠΆΠ΄Π΅Π½ΠΈΡŽ. ΠΠΎΠ²ΠΎΡΡ‚ΡŒ Π½Π΅ ΠΏΡ€ΠΎ сСгодняшний хотфикс, Π° ΠΏΡ€ΠΎ Π·Π°Π²Ρ‚Ρ€Π°ΡˆΠ½ΡŽΡŽ Π°Ρ€Ρ…ΠΈΡ‚Π΅ΠΊΡ‚ΡƒΡ€Ρƒ. Если Π²Ρ‹ строитС ΠΏΡ€ΠΎΠ΄ΡƒΠΊΡ‚Ρ‹ Π½Π° LLM, Π³ΠΎΡ‚ΠΎΠ²ΡŒΡ‚Π΅ΡΡŒ β€” скоро придётся ΡƒΡ‡ΠΈΡ‚Ρ‹Π²Π°Ρ‚ΡŒ CJS Ρ‚Π°ΠΊ ΠΆΠ΅, ΠΊΠ°ΠΊ сСйчас считаСтС риски ΠΏΠΎ CVE. И Π΄Π°, это Π½Π΅ Ρ„Π΅ΠΉΠΊ β€” ΠΌΡ‹ ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΈΠ»ΠΈ.