Π‘Π·Π² ΠΌ ΠΎΠ±Ρ€Π°Π·Π΅Ρ†: Как Π·Π°ΠΏΠΎΠ»Π½ΠΈΡ‚ΡŒ ΠΈ ΠΏΠΎΠ΄Π°Ρ‚ΡŒ ΠΎΡ‚Ρ‡Π΅Ρ‚ Π‘Π—Π’-М, ΡΠΊΠ°Ρ‡Π°Ρ‚ΡŒ Π±Π»Π°Π½ΠΊ ΠΈ ΠΎΠ±Ρ€Π°Π·Π΅Ρ†

Π‘ΠΎΠ΄Π΅Ρ€ΠΆΠ°Π½ΠΈΠ΅

Новая Ρ„ΠΎΡ€ΠΌΠ° Π‘Π—Π’-М Π·Π° ΠΌΠ°ΠΉ 2021

ОглавлСниС
Π‘ΠΊΡ€Ρ‹Ρ‚ΡŒ

  • Π§Ρ‚ΠΎ измСнилось Π² Π±Π»Π°Π½ΠΊΠ΅

  • Как Π·Π°ΠΏΠΎΠ»Π½ΠΈΡ‚ΡŒ Π‘Π—Π’-М с ΡƒΡ‡Ρ‘Ρ‚ΠΎΠΌ ΠΈΠ·ΠΌΠ΅Π½Π΅Π½ΠΈΠΉ

  • ΠžΠ±Ρ€Π°Π·Π΅Ρ† заполнСния Π½ΠΎΠ²ΠΎΠΉ Ρ„ΠΎΡ€ΠΌΡ‹ Π‘Π—Π’-М

  • ΠžΡ‚Π²Π΅Ρ‚Ρ‹ Π½Π° частыС вопросы ΠΏΡ€ΠΎ Π·Π°ΠΏΠΎΠ»Π½Π΅Π½ΠΈΠ΅ Π‘Π—Π’-М

    • НуТно Π»ΠΈ Π·Π°ΠΏΠΎΠ»Π½ΡΡ‚ΡŒ Π‘Π—Π’-М Π½Π° Ρ€Π°Π±ΠΎΡ‚Π½ΠΈΠΊΠΎΠ², ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΌ Π½Π΅ начисляли ΠΈ Π½Π΅ Π²Ρ‹ΠΏΠ»Π°Ρ‡ΠΈΠ²Π°Π»ΠΈ Π·Π°Ρ€ΠΏΠ»Π°Ρ‚Ρƒ

    • Как Π·Π°ΠΏΠΎΠ»Π½ΠΈΡ‚ΡŒ Π‘Π—Π’-М, Ссли Π½Π΅Ρ‚ Ρ€Π°Π±ΠΎΡ‚Π½ΠΈΠΊΠΎΠ², Π° Π΅ΡΡ‚ΡŒ Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΎΡ€ Π±Π΅Π· Π·Π°Ρ€ΠΏΠ»Π°Ρ‚Ρ‹

    • МоТно Π»ΠΈ ΡΠ΄Π°Ρ‚ΡŒ Π‘Π—Π’-М Ρ€Π°Π½ΡŒΡˆΠ΅ окончания мСсяца

    • Как Π·Π°ΠΏΠΎΠ»Π½ΠΈΡ‚ΡŒ Π΄ΠΎΠΏΠΎΠ»Π½ΡΡŽΡ‰ΡƒΡŽ Ρ„ΠΎΡ€ΠΌΡƒ Π‘Π—Π’-М

Π§Ρ‚ΠΎ измСнилось Π² Π±Π»Π°Π½ΠΊΠ΅

Новая Ρ„ΠΎΡ€ΠΌΠ° Π‘Π—Π’-М ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½Π° Π² ΠΏΡ€ΠΈΠ»ΠΎΠΆΠ΅Π½ΠΈΠΈ β„– 1 ΠΊ ΠŸΠΎΡΡ‚Π°Π½ΠΎΠ²Π»Π΅Π½ΠΈΡŽ ΠŸΡ€Π°Π²Π»Π΅Π½ΠΈΡ ПЀ Π Π€ β„– 103ΠΏ ΠΎΡ‚ 15.04.2021.

Π’ Ρ€Π°Π·Π΄Π΅Π»Π΅ 1 Β«Π Π΅ΠΊΠ²ΠΈΠ·ΠΈΡ‚Ρ‹ страховатСля» вмСсто ΠΊΡ€Π°Ρ‚ΠΊΠΎΠ³ΠΎ наимСнования ΠΎΡ€Π³Π°Π½ΠΈΠ·Π°Ρ†ΠΈΠΈ Ρ‚Π΅ΠΏΠ΅Ρ€ΡŒ ΠΌΠΎΠΆΠ½ΠΎ Π½Π°ΠΏΠΈΡΠ°Ρ‚ΡŒ ΠΏΠΎΠ»Π½ΠΎΠ΅ ΠΈΠ»ΠΈ сокращённоС.

Π’ Ρ€Π°Π·Π΄Π΅Π»Π΅ 3 Β«Π’ΠΈΠΏ Ρ„ΠΎΡ€ΠΌΡ‹ (ΠΊΠΎΠ΄)Β» вмСсто сокращСнных «исхд», Β«Π΄ΠΎΠΏΒ» ΠΈΠ»ΠΈ Β«ΠΎΡ‚ΠΌΠ½Β» Π½ΡƒΠΆΠ½ΠΎ ΡƒΠΊΠ°Π·Ρ‹Π²Π°Ρ‚ΡŒ ΠΏΠΎΠ»Π½ΠΎΡΡ‚ΡŒΡŽ:

  • Β«Π˜ΡΡ…ΠΎΠ΄Π½Π°ΡΒ» β€” Ссли сдаётС Π‘Π—Π’-М Π·Π° ΠΎΡ‚Ρ‡Ρ‘Ρ‚Π½Ρ‹ΠΉ ΠΏΠ΅Ρ€ΠΈΠΎΠ΄ (мСсяц) Π²ΠΏΠ΅Ρ€Π²Ρ‹Π΅;
  • Β«Π”ΠΎΠΏΠΎΠ»Π½ΡΡŽΡ‰Π°ΡΒ» β€” Ссли Π½ΡƒΠΆΠ½ΠΎ Π΄ΠΎΠΏΠΎΠ»Π½ΠΈΡ‚ΡŒ Ρ€Π°Π½Π΅Π΅ принятый Ρ„ΠΎΠ½Π΄ΠΎΠΌ ΠΎΡ‚Ρ‡Ρ‘Ρ‚;
  • Β«ΠžΡ‚ΠΌΠ΅Π½ΡΡŽΡ‰Π°ΡΒ» β€” для ΠΎΡ‚ΠΌΠ΅Π½Ρ‹ принятых ΠΎΡˆΠΈΠ±ΠΎΡ‡Π½Ρ‹Ρ… свСдСний.

Π’Π°ΠΊΠΆΠ΅ ΠΈΠ· Π±Π»Π°Π½ΠΊΠ° ΡƒΠ±Ρ€Π°Π»ΠΈ всС пояснСния ΠΊ Ρ€Π°Π·Π΄Π΅Π»Π°ΠΌ. Π˜Ρ… пСрСнСсли Π² ΠΎΡ‚Π΄Π΅Π»ΡŒΠ½ΠΎΠ΅ ΠΏΡ€ΠΈΠ»ΠΎΠΆΠ΅Π½ΠΈΠ΅ β„– 2 Β«ΠŸΠΎΡ€ΡΠ΄ΠΎΠΊ заполнСния Ρ„ΠΎΡ€ΠΌΡ‹ Π‘Π—Π’-М».

Как Π·Π°ΠΏΠΎΠ»Π½ΠΈΡ‚ΡŒ Π‘Π—Π’-М с ΡƒΡ‡Ρ‘Ρ‚ΠΎΠΌ ΠΈΠ·ΠΌΠ΅Π½Π΅Π½ΠΈΠΉ

ΠŸΡ€Π°Π²ΠΈΠ»Π° заполнСния Π² Ρ†Π΅Π»ΠΎΠΌ Π½Π΅ измСнились, Π½ΠΎ Π΅ΡΡ‚ΡŒ Π½ΡŽΠ°Π½ΡΡ‹.

  • Π’ строкС «ПолноС ΠΈΠ»ΠΈ сокращённоС Π½Π°ΠΈΠΌΠ΅Π½ΠΎΠ²Π°Π½ΠΈΠ΅Β» Π²ΠΏΠΈΡΡ‹Π²Π°ΡŽΡ‚ Π½Π°Π·Π²Π°Π½ΠΈΠ΅ ΠΎΡ€Π³Π°Π½ΠΈΠ·Π°Ρ†ΠΈΠΈ ΠΊΠ°ΠΊ Π² ΡƒΡ‡Ρ€Π΅Π΄ΠΈΡ‚Π΅Π»ΡŒΠ½Ρ‹Ρ… Π΄ΠΎΠΊΡƒΠΌΠ΅Π½Ρ‚Π°Ρ…. Оно ΠΌΠΎΠΆΠ΅Ρ‚ Π±Ρ‹Ρ‚ΡŒ ΠΈ Π½Π° Π»Π°Ρ‚ΠΈΠ½ΠΈΡ†Π΅.
  • Π’ Ρ€Π°Π·Π΄Π΅Π»Π΅ 4 «БвСдСния ΠΎ застрахованных Π»ΠΈΡ†Π°Ρ…Β» Ρ„Π°ΠΌΠΈΠ»ΠΈΡŽ, имя, отчСство Ρ€Π°Π±ΠΎΡ‚Π½ΠΈΠΊΠΎΠ² Π·Π°ΠΏΠΎΠ»Π½ΡΡŽΡ‚ Π² ΠΈΠΌΠ΅Π½ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΠΌ ΠΏΠ°Π΄Π΅ΠΆΠ΅. НСльзя Π½ΠΈΡ‡Π΅Π³ΠΎ ΡΠΎΠΊΡ€Π°Ρ‰Π°Ρ‚ΡŒ ΠΈ ΠΏΠΈΡΠ°Ρ‚ΡŒ ΠΈΠ½ΠΈΡ†ΠΈΠ°Π»Ρ‹.
  • Π’ Π³Ρ€Π°Ρ„Π΅ Β«β„– ΠΏ/ΠΏΒ» нумСрация Π΄ΠΎΠ»ΠΆΠ½Π° Π±Ρ‹Ρ‚ΡŒ сквозной β€” ΠΏΠΎ Π²ΠΎΠ·Ρ€Π°ΡΡ‚Π°Π½ΠΈΡŽ Π±Π΅Π· пропусков ΠΈ ΠΏΠΎΠ²Ρ‚ΠΎΡ€ΠΎΠ² (1, 2, 3, 4 ΠΈ Ρ‚. Π΄.).
  • 11-Π·Π½Π°Ρ‡Π½Ρ‹ΠΉ Π‘ΠΠ˜Π›Π‘ Π·Π°ΠΏΠΎΠ»Π½ΡΡŽΡ‚ Π² Ρ„ΠΎΡ€ΠΌΠ°Ρ‚Π΅ XXX–XXX–XXX–CC ΠΈΠ»ΠΈ XXX–XXX–XXX CC.
  • ИНН Ρ€Π°Π±ΠΎΡ‚Π½ΠΈΠΊΠ° Π·Π°ΠΏΠΎΠ»Π½ΡΡŽΡ‚, Ссли Ρƒ работодатСля Π΅ΡΡ‚ΡŒ эта информация. Если Π½Π΅Ρ‚, Π³Ρ€Π°Ρ„Ρƒ ΠΎΡΡ‚Π°Π²Π»ΡΡŽΡ‚ пустой.

Π’ порядкС заполнСния Ρ‚Π΅ΠΏΠ΅Ρ€ΡŒ Ρ‡Ρ‘Ρ‚ΠΊΠΎ прописано, Ρ‡Ρ‚ΠΎ Π² Π‘Π—Π’-М Π½ΡƒΠΆΠ½ΠΎ Π²ΠΊΠ»ΡŽΡ‡Π°Ρ‚ΡŒ застрахованных Π»ΠΈΡ†, Π½Π° ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… распространяСтся ΠΎΠ±ΡΠ·Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΠ΅ пСнсионноС страхованиС согласно ст. 7 Π·Π°ΠΊΠΎΠ½Π° β„– 167-Π€Π— ΠΎΡ‚ 15 дСкабря 2001 Π³. Π­Ρ‚ΠΎ Π·Π½Π°Ρ‡ΠΈΡ‚, Ρ‡Ρ‚ΠΎ Π·Π°ΠΏΠΎΠ»Π½ΠΈΡ‚ΡŒ Π‘Π—Π’-М Π½ΡƒΠΆΠ½ΠΎ ΠΈ Π½Π° руководитСля ΠΎΡ€Π³Π°Π½ΠΈΠ·Π°Ρ†ΠΈΠΈ β€” СдинствСнного учрСдитСля, Π΄Π°ΠΆΠ΅ Ссли с Π½ΠΈΠΌ Π½Π΅Ρ‚ Ρ‚Ρ€ΡƒΠ΄ΠΎΠ²ΠΎΠ³ΠΎ Π΄ΠΎΠ³ΠΎΠ²ΠΎΡ€Π°. Π’ старом Π±Π»Π°Π½ΠΊΠ΅ Π±Ρ‹Π»ΠΎ Ρ‚ΠΎΠ»ΡŒΠΊΠΎ пояснСниС ΠΎ Ρ‚ΠΎΠΌ, Ρ‡Ρ‚ΠΎ Π²ΠΊΠ»ΡŽΡ‡Π°Ρ‚ΡŒ Π² ΠΎΡ‚Ρ‡Ρ‘Ρ‚ Π½ΡƒΠΆΠ½ΠΎ Ρ‚Π΅Ρ…, с ΠΊΠ΅ΠΌ Π·Π°ΠΊΠ»ΡŽΡ‡Π΅Π½Ρ‹ Ρ‚Ρ€ΡƒΠ΄ΠΎΠ²Ρ‹Π΅ ΠΈΠ»ΠΈ граТданско-ΠΏΡ€Π°Π²ΠΎΠ²Ρ‹Π΅ Π΄ΠΎΠ³ΠΎΠ²ΠΎΡ€Ρ‹.

ΠžΠ±Ρ€Π°Π·Π΅Ρ† заполнСния Π½ΠΎΠ²ΠΎΠΉ Ρ„ΠΎΡ€ΠΌΡ‹ Π‘Π—Π’-М

ΠžΠ±Ρ€Π°Π·Π΅Ρ† заполнСния Π½ΠΎΠ²ΠΎΠΉ Ρ„ΠΎΡ€ΠΌΡ‹ Π‘Π—Π’-М

ΠžΡ‚Π²Π΅Ρ‚Ρ‹ Π½Π° частыС вопросы ΠΏΡ€ΠΎ Π·Π°ΠΏΠΎΠ»Π½Π΅Π½ΠΈΠ΅ Π‘Π—Π’-М

НуТно Π»ΠΈ Π·Π°ΠΏΠΎΠ»Π½ΡΡ‚ΡŒ Π‘Π—Π’-М Π½Π° Ρ€Π°Π±ΠΎΡ‚Π½ΠΈΠΊΠΎΠ², ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΌ Π½Π΅ начисляли ΠΈ Π½Π΅ Π²Ρ‹ΠΏΠ»Π°Ρ‡ΠΈΠ²Π°Π»ΠΈ Π·Π°Ρ€ΠΏΠ»Π°Ρ‚Ρƒ

Если Π² ΠΎΡ€Π³Π°Π½ΠΈΠ·Π°Ρ†ΠΈΠΈ ΠΈΠ»ΠΈ Ρƒ ИП числятся Ρ€Π°Π±ΠΎΡ‚Π½ΠΈΠΊΠΈ, ΠΈΡ… Π½ΡƒΠΆΠ½ΠΎ Π²ΠΊΠ»ΡŽΡ‡ΠΈΡ‚ΡŒ Π² Π‘Π—Π’-М, Π΄Π°ΠΆΠ΅ Ссли Π·Π° ΠΎΡ‚Ρ‡Ρ‘Ρ‚Π½Ρ‹ΠΉ мСсяц Π½Π΅ Π±Ρ‹Π»ΠΎ начислСний, Π²Ρ‹ΠΏΠ»Π°Ρ‚Ρ‹ Π·Π°Ρ€ΠΏΠ»Π°Ρ‚Ρ‹ ΠΈ ΡƒΠΏΠ»Π°Ρ‚Ρ‹ страховых взносов. Π“Π»Π°Π²Π½ΠΎΠ΅, Ρ‡Ρ‚ΠΎ с Ρ„ΠΈΠ·Π»ΠΈΡ†ΠΎΠΌ Π·Π°ΠΊΠ»ΡŽΡ‡Ρ‘Π½ Ρ‚Ρ€ΡƒΠ΄ΠΎΠ²ΠΎΠΉ ΠΈΠ»ΠΈ граТданско-ΠΏΡ€Π°Π²ΠΎΠ²ΠΎΠΉ Π΄ΠΎΠ³ΠΎΠ²ΠΎΡ€, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ дСйствовал хотя Π±Ρ‹ ΠΎΠ΄ΠΈΠ½ дСнь.

Как Π·Π°ΠΏΠΎΠ»Π½ΠΈΡ‚ΡŒ Π‘Π—Π’-М, Ссли Π½Π΅Ρ‚ Ρ€Π°Π±ΠΎΡ‚Π½ΠΈΠΊΠΎΠ², Π° Π΅ΡΡ‚ΡŒ Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΎΡ€ Π±Π΅Π· Π·Π°Ρ€ΠΏΠ»Π°Ρ‚Ρ‹

Если Π½Π΅Ρ‚ Π½Π°Ρ‘ΠΌΠ½Ρ‹Ρ… сотрудников, Π‘Π—Π’-М ΡΠ΄Π°ΡŽΡ‚ Π½Π° Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΎΡ€Π° β€” СдинствСнного учрСдитСля. Π”Π°ΠΆΠ΅ Ссли ΠΎΠ½ Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚ Π±Π΅Π· Ρ‚Ρ€ΡƒΠ΄ΠΎΠ²ΠΎΠ³ΠΎ Π΄ΠΎΠ³ΠΎΠ²ΠΎΡ€Π° ΠΈ Π·Π°Ρ€ΠΏΠ»Π°Ρ‚Ρ‹, Ρ‚ΠΎ всё Ρ€Π°Π²Π½ΠΎ состоит с ΠΎΡ€Π³Π°Π½ΠΈΠ·Π°Ρ†ΠΈΠ΅ΠΉ Π² Ρ‚Ρ€ΡƒΠ΄ΠΎΠ²Ρ‹Ρ… ΠΎΡ‚Π½ΠΎΡˆΠ΅Π½ΠΈΡΡ…. Π’ΠΎ Π΅ΡΡ‚ΡŒ считаСтся застрахованным Π»ΠΈΡ†ΠΎΠΌ Π² систСмС ОПБ ΠΈ Π½Π° Π½Π΅Π³ΠΎ Ρ‚ΠΎΠΆΠ΅ ΠΏΠΎΠ΄Π°ΡŽΡ‚ свСдСния ΠΏΠΎ Ρ„ΠΎΡ€ΠΌΠ΅ Π‘Π—Π’-М (ΠΏ. 14 ΠŸΠΎΡ€ΡΠ΄ΠΊΠ° заполнСния).

МоТно Π»ΠΈ ΡΠ΄Π°Ρ‚ΡŒ Π‘Π—Π’-М Ρ€Π°Π½ΡŒΡˆΠ΅ окончания мСсяца

ПослСдний дСнь ΠΏΠΎΠ΄Π°Ρ‡ΠΈ Ρ„ΠΎΡ€ΠΌΡ‹ Π‘Π—Π’-М β€” 15-ΠΎΠ΅ число мСсяца, ΡΠ»Π΅Π΄ΡƒΡŽΡ‰Π΅Π³ΠΎ Π·Π° ΠΎΡ‚Ρ‡Ρ‘Ρ‚Π½Ρ‹ΠΌ. Но Π² Π·Π°ΠΊΠΎΠ½ΠΎΠ΄Π°Ρ‚Π΅Π»ΡŒΡΡ‚Π²Π΅ Π½Π΅Ρ‚ Π·Π°ΠΏΡ€Π΅Ρ‚Π° ΡΠ΄Π°Π²Π°Ρ‚ΡŒ Π΅Ρ‘ досрочно. Π’ΠΎ Π΅ΡΡ‚ΡŒ Π‘Π—Π’-М Π·Π° июнь ΠΌΠΎΠΆΠ½ΠΎ ΡΠ΄Π°Ρ‚ΡŒ Π² этом ΠΆΠ΅ мСсяцС, Π½Π΅ доТидаясь Π΅Π³ΠΎ окончания.

Но послС досрочной сдачи ΠΌΠΎΠ³ΡƒΡ‚ ΠΏΠΎΡΠ²ΠΈΡ‚ΡŒΡΡ Π½ΠΎΠ²Ρ‹Π΅ свСдСния. НапримСр, Π΄ΠΎ окончания мСсяца приняли Π½ΠΎΠ²ΠΎΠ³ΠΎ сотрудника. Π’ΠΎΠ³Π΄Π° ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΡŽ Π² принятом ΠΎΡ‚Ρ‡Ρ‘Ρ‚Π΅ придётся ΡƒΡ‚ΠΎΡ‡Π½ΠΈΡ‚ΡŒ ΠΈ ΠΏΠΎΠ΄Π°Ρ‚ΡŒ Π‘Π—Π’-М с Ρ‚ΠΈΠΏΠΎΠΌ Ρ„ΠΎΡ€ΠΌΡ‹ Β«Π”ΠΎΠΏΠΎΠ»Π½ΡΡŽΡ‰Π°ΡΒ». Π‘Π΄Π΅Π»Π°Ρ‚ΡŒ это Π½ΡƒΠΆΠ½ΠΎ Π΄ΠΎ истСчСния срока сдачи ΠΎΡ‚Ρ‡Ρ‘Ρ‚Π°.

Как Π·Π°ΠΏΠΎΠ»Π½ΠΈΡ‚ΡŒ Π΄ΠΎΠΏΠΎΠ»Π½ΡΡŽΡ‰ΡƒΡŽ Ρ„ΠΎΡ€ΠΌΡƒ Π‘Π—Π’-М

Π’ Ρ€Π°Π·Π΄Π΅Π»Π΅ 3 Β«Π’ΠΈΠΏ Ρ„ΠΎΡ€ΠΌΡ‹ (ΠΊΠΎΠ΄)Β» Π½ΡƒΠΆΠ½ΠΎ Π½Π°ΠΏΠΈΡΠ°Ρ‚ΡŒ Β«Π”ΠΎΠΏΠΎΠ»Π½ΡΡŽΡ‰Π°ΡΒ». Π Π΅ΠΊΠ²ΠΈΠ·ΠΈΡ‚Ρ‹ ΠΈ ΠΎΡ‚Ρ‡Ρ‘Ρ‚Π½Ρ‹ΠΉ ΠΏΠ΅Ρ€ΠΈΠΎΠ΄ Π·Π°ΠΏΠΎΠ»Π½ΡΡŽΡ‚ ΠΊΠ°ΠΊ Π² ΡƒΠΆΠ΅ принятой исходной Π‘Π—Π’-М. Π’ Π΄ΠΎΠΏΠΎΠ»Π½ΡΡŽΡ‰ΡƒΡŽ Ρ„ΠΎΡ€ΠΌΡƒ Π½Π΅ Π½ΡƒΠΆΠ½ΠΎ ΠΏΠ΅Ρ€Π΅Π½ΠΎΡΠΈΡ‚ΡŒ ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΡŽ ΠΈΠ· исходного ΠΎΡ‚Ρ‡Ρ‘Ρ‚Π°. ВноситС Ρ‚ΠΎΠ»ΡŒΠΊΠΎ Π΄Π°Π½Π½Ρ‹Π΅ Π½Π° сотрудников, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Ρ… нСдостаёт Π² ΠΏΠ΅Ρ€Π²ΠΎΠΌ ΠΎΡ‚Ρ‡Ρ‘Ρ‚Π΅.

Машина ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² (SVM) Python, ΠΏΡ€ΠΈΠΌΠ΅Ρ€

Π’ этом постС Π²Ρ‹ ΡƒΠ·Π½Π°Π΅Ρ‚Π΅ ΠΎ концСпциях ΠΌΠ°ΡˆΠΈΠ½Ρ‹ ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² (SVM) с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π° ΠΊΠΎΠ΄Π° Python для построСния ΠΌΠΎΠ΄Π΅Π»ΠΈ классификации машинного обучСния . ΠœΡ‹ Π±ΡƒΠ΄Π΅ΠΌ Ρ€Π°Π±ΠΎΡ‚Π°Ρ‚ΡŒ с ΠΏΠ°ΠΊΠ΅Ρ‚ΠΎΠΌ Python Sklearn для построСния ΠΌΠΎΠ΄Π΅Π»ΠΈ. БпСциалистам ΠΏΠΎ Π΄Π°Π½Π½Ρ‹ΠΌ Π²Π°ΠΆΠ½ΠΎ Ρ…ΠΎΡ€ΠΎΡˆΠΎ Ρ€Π°Π·Π±ΠΈΡ€Π°Ρ‚ΡŒΡΡ Π² Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠ΅ SVM ΠΈ связанных с Π½ΠΈΠΌ аспСктах.

Π‘ΠΎΠ΄Π΅Ρ€ΠΆΠ°Π½ΠΈΠ΅

Π§Ρ‚ΠΎ Ρ‚Π°ΠΊΠΎΠ΅ ΠΌΠ΅Ρ‚ΠΎΠ΄ ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² (SVM)?

ΠœΠ΅Ρ‚ΠΎΠ΄ ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² (SVM) β€” это ΠΊΠΎΠ½Ρ‚Ρ€ΠΎΠ»ΠΈΡ€ΡƒΠ΅ΠΌΡ‹ΠΉ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ машинного обучСния, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ ΠΌΠΎΠΆΠ½ΠΎ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ ΠΊΠ°ΠΊ для Π·Π°Π΄Π°Ρ‡ классификации, Ρ‚Π°ΠΊ ΠΈ для Π·Π°Π΄Π°Ρ‡ рСгрСссии. Иногда SVM для классификации называСтся классификациСй ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² (SVC), Π° SVM для рСгрСссии называСтся рСгрСссиСй ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² (SVR). Π’ этом постС ΠΌΡ‹ ΡƒΠ·Π½Π°Π΅ΠΌ ΠΎ классификаторС SVM. Основная идСя классификатора SVM состоит Π² Ρ‚ΠΎΠΌ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Π½Π°ΠΉΡ‚ΠΈ Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ, которая максимально раздСляСт Ρ‚ΠΎΡ‡ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ… Ρ€Π°Π·Π½Ρ‹Ρ… классов. Π”Ρ€ΡƒΠ³ΠΈΠΌΠΈ словами, ΠΌΡ‹ ΠΈΡ‰Π΅ΠΌ Π½Π°ΠΈΠ±ΠΎΠ»ΡŒΡˆΡƒΡŽ Ρ€Π°Π·Π½ΠΈΡ†Ρƒ ΠΌΠ΅ΠΆΠ΄Ρƒ двумя классами. Учитывая ΠΏΠΎΠΌΠ΅Ρ‡Π΅Π½Π½Ρ‹Π΅ ΠΎΠ±ΡƒΡ‡Π°ΡŽΡ‰ΠΈΠ΅ Π΄Π°Π½Π½Ρ‹Π΅ (ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅ с ΡƒΡ‡ΠΈΡ‚Π΅Π»Π΅ΠΌ), Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ классификации SVM Π²Ρ‹Π²ΠΎΠ΄ΠΈΡ‚ ΠΎΠΏΡ‚ΠΈΠΌΠ°Π»ΡŒΠ½ΡƒΡŽ Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ, которая распрСдСляСт Π½ΠΎΠ²Ρ‹Π΅ ΠΏΡ€ΠΈΠΌΠ΅Ρ€Ρ‹ ΠΏΠΎ Ρ€Π°Π·Π½Ρ‹ΠΌ классам. Π—Π°Ρ‚Π΅ΠΌ эта Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ΡΡ для прогнозирования Π½ΠΎΠ²Ρ‹Ρ… Ρ‚ΠΎΡ‡Π΅ΠΊ Π΄Π°Π½Π½Ρ‹Ρ…. ΠšΠ»Π°ΡΡΠΈΡ„ΠΈΠΊΠ°Ρ‚ΠΎΡ€ ΠΌΠ°ΡˆΠΈΠ½Ρ‹ ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² Ρ‚Π°ΠΊΠΆΠ΅ называСтся классификатором максимальной ΠΌΠ°Ρ€ΠΆΠΈ, Ρ‡Ρ‚ΠΎ ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ ΠΎΠ½ Π½Π°Ρ…ΠΎΠ΄ΠΈΡ‚ линию ΠΈΠ»ΠΈ Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ, которая ΠΈΠΌΠ΅Π΅Ρ‚ наибольшСС расстояниС Π΄ΠΎ Π±Π»ΠΈΠΆΠ°ΠΉΡˆΠΈΡ… Ρ‚ΠΎΡ‡Π΅ΠΊ ΠΎΠ±ΡƒΡ‡Π°ΡŽΡ‰ΠΈΡ… Π΄Π°Π½Π½Ρ‹Ρ… любого класса. Π”Π°Π²Π°ΠΉΡ‚Π΅ возьмСм ΠΏΡ€ΠΈΠΌΠ΅Ρ€, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Π»ΡƒΡ‡ΡˆΠ΅ ΠΏΠΎΠ½ΡΡ‚ΡŒ ΠΌΠ°ΡˆΠΈΠ½Ρƒ ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ². Π‘ΠΊΠ°ΠΆΠ΅ΠΌ, вас попросили ΠΏΡ€Π΅Π΄ΡΠΊΠ°Π·Π°Ρ‚ΡŒ, ΡƒΠΉΠ΄Π΅Ρ‚ Π»ΠΈ ΠΊΠ»ΠΈΠ΅Π½Ρ‚ ΠΈΠ»ΠΈ Π½Π΅Ρ‚, ΠΈ Ρƒ вас Π΅ΡΡ‚ΡŒ всС записи ΠΎ Π΅Π³ΠΎ ΠΏΡ€ΠΎΡˆΠ»Ρ‹Ρ… транзакциях, Π° Ρ‚Π°ΠΊΠΆΠ΅ дСмографичСская информация. Π˜Π·ΡƒΡ‡ΠΈΠ² Π΄Π°Π½Π½Ρ‹Π΅, Π²Ρ‹ ΠΎΠ±Π½Π°Ρ€ΡƒΠΆΠΈΠ»ΠΈ, Ρ‡Ρ‚ΠΎ Π½Π΅Ρ‚ большой Ρ€Π°Π·Π½ΠΈΡ†Ρ‹ ΠΌΠ΅ΠΆΠ΄Ρƒ срСднСй суммой Ρ‚Ρ€Π°Π½Π·Π°ΠΊΡ†ΠΈΠΉ ΠΊΠ»ΠΈΠ΅Π½Ρ‚ΠΎΠ², ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΡƒΡˆΠ»ΠΈ, ΠΈ Ρ‚Π΅Ρ…, ΠΊΡ‚ΠΎ этого Π½Π΅ сдСлал. Π’Ρ‹ Ρ‚Π°ΠΊΠΆΠ΅ ΠΎΠ±Π½Π°Ρ€ΡƒΠΆΠΈΠ»ΠΈ, Ρ‡Ρ‚ΠΎ Π±ΠΎΠ»ΡŒΡˆΠΈΠ½ΡΡ‚Π²ΠΎ ΡƒΡˆΠ΅Π΄ΡˆΠΈΡ… ΠΊΠ»ΠΈΠ΅Π½Ρ‚ΠΎΠ² ΠΆΠΈΠ²ΡƒΡ‚ ΠΎΡ‚Π½ΠΎΡΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ Π΄Π°Π»Π΅ΠΊΠΎ ΠΎΡ‚ Ρ†Π΅Π½Ρ‚Ρ€Π° Π³ΠΎΡ€ΠΎΠ΄Π°. ΠžΡΠ½ΠΎΠ²Ρ‹Π²Π°ΡΡΡŒ Π½Π° этих Π²Ρ‹Π²ΠΎΠ΄Π°Ρ…, Π²Ρ‹ Ρ€Π΅ΡˆΠΈΠ»ΠΈ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ классификации ΠΌΠ°ΡˆΠΈΠ½Ρ‹ ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² для построСния ΠΌΠΎΠ΄Π΅Π»ΠΈ прогнозирования. МодСль, обучСнная с использованиСм Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠ° классификации SVM, смоТСт ΠΊΠ»Π°ΡΡΠΈΡ„ΠΈΡ†ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΠΊΠ»ΠΈΠ΅Π½Ρ‚ΠΎΠ² ΠΊΠ°ΠΊ ΠΊΠ»ΠΈΠ΅Π½Ρ‚ΠΎΠ² с высоким риском (ΡƒΡˆΠ΅Π΄ΡˆΠΈΡ…) ΠΈΠ»ΠΈ ΠΈΠ½Π°Ρ‡Π΅.

Π•ΡΡ‚ΡŒ нСсколько ΠΊΠ»ΡŽΡ‡Π΅Π²Ρ‹Ρ… понятий, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π²Π°ΠΆΠ½ΠΎ ΠΏΠΎΠ½ΠΈΠΌΠ°Ρ‚ΡŒ ΠΏΡ€ΠΈ Ρ€Π°Π±ΠΎΡ‚Π΅ с SVM. Π’ΠΎ-ΠΏΠ΅Ρ€Π²Ρ‹Ρ…, Ρ‚ΠΎΡ‡ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ…, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ находятся Π±Π»ΠΈΠΆΠ΅ всСго ΠΊ гипСрплоскости, Π½Π°Π·Ρ‹Π²Π°ΡŽΡ‚ΡΡ ΠΎΠΏΠΎΡ€Π½Ρ‹ΠΌΠΈ Π²Π΅ΠΊΡ‚ΠΎΡ€Π°ΠΌΠΈ. Π­Ρ‚ΠΈ Ρ‚ΠΎΡ‡ΠΊΠΈ ΠΎΠΊΠ°Π·Ρ‹Π²Π°ΡŽΡ‚ нСпосрСдствСнноС влияниС Π½Π° ΠΏΠΎΠ»ΠΎΠΆΠ΅Π½ΠΈΠ΅ ΠΈ ΠΎΡ€ΠΈΠ΅Π½Ρ‚Π°Ρ†ΠΈΡŽ гипСрплоскости. Π’ΠΎ-Π²Ρ‚ΠΎΡ€Ρ‹Ρ…, Π΅ΡΡ‚ΡŒ Π΄Π²Π° ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€Π°, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΡƒΠΏΡ€Π°Π²Π»ΡΡŽΡ‚ модСлью SVM: C ΠΈ Π³Π°ΠΌΠΌΠ°. C управляСт компромиссом ΠΌΠ΅ΠΆΠ΄Ρƒ максимизациСй запаса ΠΈ ΠΌΠΈΠ½ΠΈΠΌΠΈΠ·Π°Ρ†ΠΈΠ΅ΠΉ ошибки обучСния, Π² Ρ‚ΠΎ врСмя ΠΊΠ°ΠΊ Π³Π°ΠΌΠΌΠ° управляСт Ρ„ΠΎΡ€ΠΌΠΎΠΉ Π³Ρ€Π°Π½ΠΈΡ†Ρ‹ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ.

Π’ качСствС ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π° ΠΏΡ€Π΅Π΄ΠΏΠΎΠ»ΠΎΠΆΠΈΠΌ, Ρ‡Ρ‚ΠΎ Ρƒ нас Π΅ΡΡ‚ΡŒ Π½Π°Π±ΠΎΡ€ Π΄Π°Π½Π½Ρ‹Ρ… с двумя функциями (x1 ΠΈ x2) ΠΈ двумя классами (0 ΠΈ 1). ΠœΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ Π²ΠΈΠ·ΡƒΠ°Π»ΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ эти Π΄Π°Π½Π½Ρ‹Π΅, ΠΎΡ‚ΠΎΠ±Ρ€Π°Π·ΠΈΠ² ΠΈΡ… Π² Π΄Π²ΡƒΠΌΠ΅Ρ€Π½ΠΎΠΌ пространствС, Π³Π΄Π΅ каТдая Ρ‚ΠΎΡ‡ΠΊΠ° ΠΎΠΊΡ€Π°ΡˆΠ΅Π½Π° Π² соотвСтствии с ΠΌΠ΅Ρ‚ΠΊΠΎΠΉ класса. ΠŸΠΎΡΠΌΠΎΡ‚Ρ€ΠΈΡ‚Π΅ Π½Π° Π΄ΠΈΠ°Π³Ρ€Π°ΠΌΠΌΡƒ Π½ΠΈΠΆΠ΅.

Β 

Π’ ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½Π½ΠΎΠΌ Π²Ρ‹ΡˆΠ΅ случаС ΠΌΡ‹ Π²ΠΈΠ΄ΠΈΠΌ, Ρ‡Ρ‚ΠΎ ΡΡƒΡ‰Π΅ΡΡ‚Π²ΡƒΡŽΡ‚ Ρ€Π°Π·Π½Ρ‹Π΅ прямыС Π»ΠΈΠ½ΠΈΠΈ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΌΠΎΠ³ΡƒΡ‚ идСально Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚ΡŒ Π΄Π²Π° класса. Π’Π΅ΠΌ Π½Π΅ ΠΌΠ΅Π½Π΅Π΅, ΠΌΡ‹ всС Π΅Ρ‰Π΅ ΠΌΠΎΠΆΠ΅ΠΌ Π½Π°ΠΉΡ‚ΠΈ Π³Ρ€Π°Π½ΠΈΡ†Ρƒ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ, которая Π΄Π΅Π»Π°Π΅Ρ‚ довольно Ρ…ΠΎΡ€ΠΎΡˆΡƒΡŽ Ρ€Π°Π±ΠΎΡ‚Ρƒ. Π­Ρ‚Π° Π³Ρ€Π°Π½ΠΈΡ†Π° гСнСрируСтся Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠΎΠΌ ΠΌΠ°ΡˆΠΈΠ½Ρ‹ ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ². Π˜ΡΠΏΠΎΠ»ΡŒΠ·ΡƒΡ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ SVM, ΠΊΠ°ΠΊ ΡƒΠΏΠΎΠΌΠΈΠ½Π°Π»ΠΎΡΡŒ Π²Ρ‹ΡˆΠ΅, ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅ ΠΌΠΎΠ΄Π΅Π»ΠΈ прСдставляСт собой Π½Π°Ρ…ΠΎΠΆΠ΄Π΅Π½ΠΈΠ΅ гипСрплоскости (пунктирная линия Π½Π° рисункС Π½ΠΈΠΆΠ΅), которая раздСляСт Π΄Π°Π½Π½Ρ‹Π΅, ΠΏΡ€ΠΈΠ½Π°Π΄Π»Π΅ΠΆΠ°Ρ‰ΠΈΠ΅ Π΄Π²ΡƒΠΌ Ρ€Π°Π·Π½Ρ‹ΠΌ классам, Π½Π° максимальноС ΠΈΠ»ΠΈ наибольшСС расстояниС . А Ρ‚ΠΎΡ‡ΠΊΠΈ, блиТайшиС ΠΊ этой гипСрплоскости, Π½Π°Π·Ρ‹Π²Π°ΡŽΡ‚ΡΡ ΠΎΠΏΠΎΡ€Π½Ρ‹ΠΌΠΈ Π²Π΅ΠΊΡ‚ΠΎΡ€Π°ΠΌΠΈ . ΠžΠ±Ρ€Π°Ρ‚ΠΈΡ‚Π΅ Π²Π½ΠΈΠΌΠ°Π½ΠΈΠ΅ Π½Π° это Π½Π° Π΄ΠΈΠ°Π³Ρ€Π°ΠΌΠΌΠ΅, ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½Π½ΠΎΠΉ Π½ΠΈΠΆΠ΅.

Π‘ΠΈΠ½ΠΈΠ΅ ΠΊΠ²Π°Π΄Ρ€Π°Ρ‚Π½Ρ‹Π΅ Ρ‚ΠΎΡ‡ΠΊΠΈ ΠΏΡ€Π΅Π΄ΡΡ‚Π°Π²Π»ΡΡŽΡ‚ ΠΎΠ΄ΠΈΠ½ класс, Π° красныС Ρ‚ΠΎΡ‡ΠΊΠΈ ΠΏΡ€Π΅Π΄ΡΡ‚Π°Π²Π»ΡΡŽΡ‚ Π΄Ρ€ΡƒΠ³ΠΎΠΉ класс. ЧСрная линия β€” это Π³Ρ€Π°Π½ΠΈΡ†Π° Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ, получСнная SVM. Как Π²ΠΈΠ΄ΠΈΡ‚Π΅, SVM размСстила Π³Ρ€Π°Π½ΠΈΡ†Ρƒ Ρ‚Π°ΠΊΠΈΠΌ ΠΎΠ±Ρ€Π°Π·ΠΎΠΌ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΌΠ°ΠΊΡΠΈΠΌΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Ρ€Π°Π·Π½ΠΈΡ†Ρƒ ΠΌΠ΅ΠΆΠ΄Ρƒ двумя классами.

ΠœΠ°ΡˆΠΈΠ½Ρ‹ ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² β€” ΠΌΠΎΡ‰Π½Ρ‹ΠΉ инструмСнт для классификации, Π½ΠΎ, ΠΊΠ°ΠΊ ΠΈ любой Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ машинного обучСния, ΠΎΠ½ΠΈ Ρ‚Ρ€Π΅Π±ΡƒΡŽΡ‚ Ρ‚Ρ‰Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎΠΉ настройки своих Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€ΠΎΠ² для достиТСния ΠΎΠΏΡ‚ΠΈΠΌΠ°Π»ΡŒΠ½ΠΎΠΉ ΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΠΈ. НаиболСС Π²Π°ΠΆΠ½Ρ‹ΠΌΠΈ Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€Π°ΠΌΠΈ ΡΠ²Π»ΡΡŽΡ‚ΡΡ функция ядра ΠΈ ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€ выравнивания r . Ѐункция ядра опрСдСляСт, ΠΊΠ°ΠΊ Ρ‚ΠΎΡ‡ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ… ΠΏΡ€Π΅ΠΎΠ±Ρ€Π°Π·ΡƒΡŽΡ‚ΡΡ Π² ΠΌΠ½ΠΎΠ³ΠΎΠΌΠ΅Ρ€Π½ΠΎΠ΅ пространство, Π° ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€ рСгуляризации управляСт компромиссом ΠΌΠ΅ΠΆΠ΄Ρƒ ΡΠ»ΠΎΠΆΠ½ΠΎΡΡ‚ΡŒΡŽ ΠΌΠΎΠ΄Π΅Π»ΠΈ ΠΈ пСрСоснащСниСм. ΠšΡ€ΠΎΠΌΠ΅ Ρ‚ΠΎΠ³ΠΎ, машина ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² Ρ‚Π°ΠΊΠΆΠ΅ ΠΈΠΌΠ΅Π΅Ρ‚ ряд Π΄Ρ€ΡƒΠ³ΠΈΡ… Π²Π°ΠΆΠ½Ρ‹Ρ… Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€ΠΎΠ², ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΌΠΎΠΆΠ½ΠΎ Π½Π°ΡΡ‚Ρ€ΠΎΠΈΡ‚ΡŒ для ΠΏΠΎΠ²Ρ‹ΡˆΠ΅Π½ΠΈΡ ΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΠΈ, Π²ΠΊΠ»ΡŽΡ‡Π°Ρ максимальноС количСство ΠΈΡ‚Π΅Ρ€Π°Ρ†ΠΈΠΉ, ΡƒΡΡ‚ΠΎΠΉΡ‡ΠΈΠ²ΠΎΡΡ‚ΡŒ ΠΊ ошибкам ΠΈ ΡΠΊΠΎΡ€ΠΎΡΡ‚ΡŒ обучСния. Π’Ρ‰Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ настроив эти Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€Ρ‹, ΠΌΠΎΠΆΠ½ΠΎ Π΄ΠΎΠ±ΠΈΡ‚ΡŒΡΡ Π·Π½Π°Ρ‡ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ Π±ΠΎΠ»Π΅Π΅ высокой ΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΠΈ ΠΌΠ°ΡˆΠΈΠ½Ρ‹ ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ². Π’ΠΎΡ‚ связанный пост ΠΎ настройкС Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€ΠΎΠ² для построСния ΠΎΠΏΡ‚ΠΈΠΌΠ°Π»ΡŒΠ½ΠΎΠΉ ΠΌΠΎΠ΄Π΅Π»ΠΈ SVM для классификации:

  • SVM ΠΊΠ°ΠΊ классификатор мягкой ΠΌΠ°Ρ€ΠΆΠΈ ΠΈ Π·Π½Π°Ρ‡Π΅Π½ΠΈΠ΅ C
  • SVM β€” ΠΏΠΎΠ½ΠΈΠΌΠ°Π½ΠΈΠ΅ значСния C с ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π°ΠΌΠΈ ΠΊΠΎΠ΄Π°

Машина ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² (SVM) ΠŸΡ€ΠΈΠΌΠ΅Ρ€ Python

Π‘Π»Π΅Π΄ΡƒΡŽΡ‰ΠΈΠ΅ шаги Π±ΡƒΠ΄ΡƒΡ‚ рассмотрСны для обучСния ΠΌΠΎΠ΄Π΅Π»ΠΈ с использованиСм SVM ΠΏΡ€ΠΈ использовании ΠΊΠΎΠ΄Π° Python:

  • Π—Π°Π³Ρ€ΡƒΠ·ΠΊΠ° Π΄Π°Π½Π½Ρ‹Ρ…
  • Π‘ΠΎΠ·Π΄Π°Π½ΠΈΠ΅ обучСния ΠΈ тСстового раздСлСния
  • Π’Ρ‹ΠΏΠΎΠ»Π½Π΅Π½ΠΈΠ΅ ΠΌΠ°ΡΡˆΡ‚Π°Π±ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΡ ΠΏΡ€ΠΈΠ·Π½Π°ΠΊΠΎΠ²
  • Π‘ΠΎΠ·Π΄Π°Π½ΠΈΠ΅ экзСмпляра классификатор SVC
  • Подгонка ΠΌΠΎΠ΄Π΅Π»ΠΈ
  • Π˜Π·ΠΌΠ΅Ρ€Π΅Π½ΠΈΠ΅ ΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΠΈ ΠΌΠΎΠ΄Π΅Π»ΠΈ

Π’ ΠΏΠ΅Ρ€Π²ΡƒΡŽ ΠΎΡ‡Π΅Ρ€Π΅Π΄ΡŒ ΠΌΡ‹ Π·Π°Π³Ρ€ΡƒΠ·ΠΈΠΌ ΡΠΎΠΎΡ‚Π²Π΅Ρ‚ΡΡ‚Π²ΡƒΡŽΡ‰ΠΈΠ΅ ΠΌΠΎΠ΄ΡƒΠ»ΠΈ ΠΈ классы Sklearn.

 # Π‘Π°Π·ΠΎΠ²Ρ‹Π΅ ΠΏΠ°ΠΊΠ΅Ρ‚Ρ‹
ΠΈΠΌΠΏΠΎΡ€Ρ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ numpy ΠΊΠ°ΠΊ np
ΠΈΠΌΠΏΠΎΡ€Ρ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΠΏΠ°Π½Π΄ ΠΊΠ°ΠΊ pd
ΠΈΠΌΠΏΠΎΡ€Ρ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ matplotlib.pyplot ΠΊΠ°ΠΊ plt
# ΠœΠΎΠ΄ΡƒΠ»ΠΈ ΠΈ классы Sklearn
ΠΈΠ· sklearn.linear_model ΠΈΠΌΠΏΠΎΡ€Ρ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Perceptron, LogisticRegression
ΠΈΠ· sklearn.svm ΠΈΠΌΠΏΠΎΡ€Ρ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ SVC
ΠΈΠ· sklearn. model_selection ΠΈΠΌΠΏΠΎΡ€Ρ‚Π° train_test_split
ΠΈΠ· sklearn.preprocessing ΠΈΠΌΠΏΠΎΡ€Ρ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ StandardScaler
ΠΈΠ· Π½Π°Π±ΠΎΡ€ΠΎΠ² Π΄Π°Π½Π½Ρ‹Ρ… ΠΈΠΌΠΏΠΎΡ€Ρ‚Π° sklearn
ΠΈΠ· ΠΏΠΎΠΊΠ°Π·Π°Ρ‚Π΅Π»Π΅ΠΉ ΠΈΠΌΠΏΠΎΡ€Ρ‚Π° sklearn
 

Π”Π°Π²Π°ΠΉΡ‚Π΅ Π½Π°Ρ‡Π½Π΅ΠΌ с Π·Π°Π³Ρ€ΡƒΠ·ΠΊΠΈ Π½Π°Π±ΠΎΡ€Π° Π΄Π°Π½Π½Ρ‹Ρ… ΠΈ создания ΠΎΠ±ΡƒΡ‡Π°ΡŽΡ‰Π΅Π³ΠΎ ΠΈ тСстового раздСлСния ΠΈΠ· Π½Π°Π±ΠΎΡ€Π° Π΄Π°Π½Π½Ρ‹Ρ…. ΠžΠ±Ρ€Π°Ρ‚ΠΈΡ‚Π΅ Π²Π½ΠΈΠΌΠ°Π½ΠΈΠ΅ Π½Π° аспСкт стратификации, ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅ΠΌΡ‹ΠΉ ΠΏΡ€ΠΈ создании раздСлСния обучСния ΠΈ тСстирования. train_test_split класс sklearn.model_selection ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ΡΡ для создания раздСлСния обучСния ΠΈ тСстирования.

 # Π—Π°Π³Ρ€ΡƒΠ·ΠΈΡ‚ΡŒ Π½Π°Π±ΠΎΡ€ Π΄Π°Π½Π½Ρ‹Ρ…; Π’ этом ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π΅ загруТаСтся Π½Π°Π±ΠΎΡ€ Π΄Π°Π½Π½Ρ‹Ρ… Ρ€Π°ΠΊΠ° ΠΌΠΎΠ»ΠΎΡ‡Π½ΠΎΠΉ ΠΆΠ΅Π»Π΅Π·Ρ‹.
bc = Π½Π°Π±ΠΎΡ€Ρ‹ Π΄Π°Π½Π½Ρ‹Ρ….load_breast_cancer()
X = bc.Π΄Π°Π½Π½Ρ‹Π΅
Ρƒ = bc.target
# Π‘ΠΎΠ·Π΄Π°Ρ‚ΡŒ Ρ‚Ρ€Π΅Π½ΠΈΡ€ΠΎΠ²ΠΎΡ‡Π½Ρ‹ΠΉ ΠΈ тСстовый сплит
X_train, X_test, y_train, y_test = train_test_split (X, y, test_size = 0,3, random_state = 1, stratify = y)
 

Π‘Π»Π΅Π΄ΡƒΡŽΡ‰ΠΈΠΌ шагом являСтся ΠΌΠ°ΡΡˆΡ‚Π°Π±ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅ ΠΎΠ±ΡŠΠ΅ΠΊΡ‚Π°. ΠŸΡ€ΠΈΡ‡ΠΈΠ½Π° ΠΌΠ°ΡΡˆΡ‚Π°Π±ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΡ ΠΏΡ€ΠΈΠ·Π½Π°ΠΊΠΎΠ² β€” ΡƒΠ±Π΅Π΄ΠΈΡ‚ΡŒΡΡ, Ρ‡Ρ‚ΠΎ Π΄Π°Π½Π½Ρ‹Π΅ для Ρ€Π°Π·Π½Ρ‹Ρ… ΠΏΡ€ΠΈΠ·Π½Π°ΠΊΠΎΠ² находятся Π² ΠΎΠ΄Π½ΠΎΠΌ Π΄ΠΈΠ°ΠΏΠ°Π·ΠΎΠ½Π΅. StandardScaler класс sklearn.preprocessing ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ΡΡ.

 sc = Π‘Ρ‚Π°Π½Π΄Π°Ρ€Ρ‚Π½Ρ‹ΠΉ ΠΌΠ°ΡΡˆΡ‚Π°Π±()
sc.fit(X_train)
X_train_std = sc.transform(X_train)
X_test_std = sc.transform(X_test)
 

Π‘Π»Π΅Π΄ΡƒΡŽΡ‰ΠΈΠΌ шагом являСтся созданиС экзСмпляра SVC (классификатора ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ²) ΠΈ ΠΏΠΎΠ΄Π³ΠΎΠ½ΠΊΠ° ΠΌΠΎΠ΄Π΅Π»ΠΈ. Π˜ΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ΡΡ класс SVC модуля sklearn.svm .

 # Π‘ΠΎΠ·Π΄Π°Π½ΠΈΠ΅ экзСмпляра классификатора ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² (SVC)
svc = SVC (C = 1.0, random_state = 1, ядро ​​​​= Β«Π»ΠΈΠ½Π΅ΠΉΠ½Ρ‹ΠΉΒ»)
# ΠŸΠΎΠ΄Ρ…ΠΎΠ΄ΠΈΡ‚ ΠΊ ΠΌΠΎΠ΄Π΅Π»ΠΈ
svc.fit (X_train_std, y_train)
 

НаконСц, ΠΏΡ€ΠΈΡˆΠ»ΠΎ врСмя ΠΈΠ·ΠΌΠ΅Ρ€ΠΈΡ‚ΡŒ ΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΡŒ ΠΌΠΎΠ΄Π΅Π»ΠΈ. Π’ΠΎΡ‚ ΠΊΠΎΠ΄ для Ρ‚ΠΎΠ³ΠΎ ΠΆΠ΅:

 # Π”Π΅Π»Π°ΠΉΡ‚Π΅ ΠΏΡ€ΠΎΠ³Π½ΠΎΠ·Ρ‹
y_predict = svc.predict(X_test_std)
# Π˜Π·ΠΌΠ΅Ρ€ΡΠ΅ΠΌ ΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΡŒ
print("ΠžΡ†Π΅Π½ΠΊΠ° точности %.3f" %metrics.accuracy_score(y_test, y_predict))
 
 ΠŸΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΡŒ ΠΌΠΎΠ΄Π΅Π»ΠΈ получится 0,953.
 
  • Автор
  • ПослСдниС сообщСния

ΠΠ΄ΠΆΠΈΡ‚Π΅Ρˆ ΠšΡƒΠΌΠ°Ρ€

НСдавно я Ρ€Π°Π±ΠΎΡ‚Π°Π» Π² области Π°Π½Π°Π»ΠΈΠ·Π° Π΄Π°Π½Π½Ρ‹Ρ…, Π²ΠΊΠ»ΡŽΡ‡Π°Ρ Π½Π°ΡƒΠΊΡƒ ΠΎ Π΄Π°Π½Π½Ρ‹Ρ… ΠΈ машинноС ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅ / Π³Π»ΡƒΠ±ΠΎΠΊΠΎΠ΅ ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅. Π― Ρ‚Π°ΠΊΠΆΠ΅ ΡƒΠ²Π»Π΅ΠΊΠ°ΡŽΡΡŒ Ρ€Π°Π·Π»ΠΈΡ‡Π½Ρ‹ΠΌΠΈ тСхнологиями, Π²ΠΊΠ»ΡŽΡ‡Π°Ρ языки программирования, Ρ‚Π°ΠΊΠΈΠ΅ ΠΊΠ°ΠΊ Java/JEE, Javascript, Python, R, Julia ΠΈ Ρ‚.Β Π΄., Π° Ρ‚Π°ΠΊΠΆΠ΅ Ρ‚Π°ΠΊΠΈΠ΅ Ρ‚Π΅Ρ…Π½ΠΎΠ»ΠΎΠ³ΠΈΠΈ, ΠΊΠ°ΠΊ Π±Π»ΠΎΠΊΡ‡Π΅ΠΉΠ½, ΠΌΠΎΠ±ΠΈΠ»ΡŒΠ½Ρ‹Π΅ вычислСния, ΠΎΠ±Π»Π°Ρ‡Π½Ρ‹Π΅ Ρ‚Π΅Ρ…Π½ΠΎΠ»ΠΎΠ³ΠΈΠΈ, Π±Π΅Π·ΠΎΠΏΠ°ΡΠ½ΠΎΡΡ‚ΡŒ ΠΏΡ€ΠΈΠ»ΠΎΠΆΠ΅Π½ΠΈΠΉ, ΠΏΠ»Π°Ρ‚Ρ„ΠΎΡ€ΠΌΡ‹ ΠΎΠ±Π»Π°Ρ‡Π½Ρ‹Ρ… вычислСний, большиС Π΄Π°Π½Π½Ρ‹Π΅, ΠΈ Ρ‚. Π΄. Π§Ρ‚ΠΎΠ±Ρ‹ Π±Ρ‹Ρ‚ΡŒ Π² курсС послСдних ΠΎΠ±Π½ΠΎΠ²Π»Π΅Π½ΠΈΠΉ ΠΈ Π±Π»ΠΎΠ³ΠΎΠ², слСдитС Π·Π° Π½Π°ΠΌΠΈ Π² Twitter. Π― Ρ…ΠΎΡ‚Π΅Π» Π±Ρ‹ ΡΠ²ΡΠ·Π°Ρ‚ΡŒΡΡ с Π²Π°ΠΌΠΈ Π½Π° Linkedin.

ΠžΠ·Π½Π°ΠΊΠΎΠΌΡŒΡ‚Π΅ΡΡŒ с ΠΌΠΎΠ΅ΠΉ послСднСй ΠΊΠ½ΠΈΠ³ΠΎΠΉ, ΠΎΠ·Π°Π³Π»Π°Π²Π»Π΅Π½Π½ΠΎΠΉ Β«ΠžΡΠ½ΠΎΠ²Ρ‹ ΠΌΡ‹ΡˆΠ»Π΅Π½ΠΈΡ: созданиС ΡƒΡΠΏΠ΅ΡˆΠ½Ρ‹Ρ… ΠΏΡ€ΠΎΠ΄ΡƒΠΊΡ‚ΠΎΠ² с использованиСм ΠΏΠ΅Ρ€Π²Ρ‹Ρ… ΠΏΡ€ΠΈΠ½Ρ†ΠΈΠΏΠΎΠ²Β».
НСдавно я Ρ€Π°Π±ΠΎΡ‚Π°Π» Π² области Π°Π½Π°Π»ΠΈΡ‚ΠΈΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ…, Π²ΠΊΠ»ΡŽΡ‡Π°Ρ Π½Π°ΡƒΠΊΡƒ ΠΎ Π΄Π°Π½Π½Ρ‹Ρ… ΠΈ машинноС ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅/Π³Π»ΡƒΠ±ΠΎΠΊΠΎΠ΅ ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅. Π― Ρ‚Π°ΠΊΠΆΠ΅ ΡƒΠ²Π»Π΅ΠΊΠ°ΡŽΡΡŒ Ρ€Π°Π·Π»ΠΈΡ‡Π½Ρ‹ΠΌΠΈ тСхнологиями, Π²ΠΊΠ»ΡŽΡ‡Π°Ρ языки программирования, Ρ‚Π°ΠΊΠΈΠ΅ ΠΊΠ°ΠΊ Java/JEE, Javascript, Python, R, Julia ΠΈ Ρ‚.Β Π΄., Π° Ρ‚Π°ΠΊΠΆΠ΅ Ρ‚Π°ΠΊΠΈΠ΅ Ρ‚Π΅Ρ…Π½ΠΎΠ»ΠΎΠ³ΠΈΠΈ, ΠΊΠ°ΠΊ Π±Π»ΠΎΠΊΡ‡Π΅ΠΉΠ½, ΠΌΠΎΠ±ΠΈΠ»ΡŒΠ½Ρ‹Π΅ вычислСния, ΠΎΠ±Π»Π°Ρ‡Π½Ρ‹Π΅ Ρ‚Π΅Ρ…Π½ΠΎΠ»ΠΎΠ³ΠΈΠΈ, Π±Π΅Π·ΠΎΠΏΠ°ΡΠ½ΠΎΡΡ‚ΡŒ ΠΏΡ€ΠΈΠ»ΠΎΠΆΠ΅Π½ΠΈΠΉ, ΠΏΠ»Π°Ρ‚Ρ„ΠΎΡ€ΠΌΡ‹ ΠΎΠ±Π»Π°Ρ‡Π½Ρ‹Ρ… вычислСний, большиС Π΄Π°Π½Π½Ρ‹Π΅, ΠΈ Ρ‚. Π΄. Π§Ρ‚ΠΎΠ±Ρ‹ Π±Ρ‹Ρ‚ΡŒ Π² курсС послСдних ΠΎΠ±Π½ΠΎΠ²Π»Π΅Π½ΠΈΠΉ ΠΈ Π±Π»ΠΎΠ³ΠΎΠ², слСдитС Π·Π° Π½Π°ΠΌΠΈ Π² Twitter. Π― Ρ…ΠΎΡ‚Π΅Π» Π±Ρ‹ ΡΠ²ΡΠ·Π°Ρ‚ΡŒΡΡ с Π²Π°ΠΌΠΈ Π½Π° Linkedin.
ΠžΠ·Π½Π°ΠΊΠΎΠΌΡŒΡ‚Π΅ΡΡŒ с ΠΌΠΎΠ΅ΠΉ послСднСй ΠΊΠ½ΠΈΠ³ΠΎΠΉ ΠΏΠΎΠ΄ Π½Π°Π·Π²Π°Π½ΠΈΠ΅ΠΌ Β«ΠœΡ‹ΡˆΠ»Π΅Π½ΠΈΠ΅ Π½Π° основС ΠΏΠ΅Ρ€Π²Ρ‹Ρ… ΠΏΡ€ΠΈΠ½Ρ†ΠΈΠΏΠΎΠ²: созданиС ΡƒΡΠΏΠ΅ΡˆΠ½Ρ‹Ρ… ΠΏΡ€ΠΎΠ΄ΡƒΠΊΡ‚ΠΎΠ² с использованиСм ΠΌΡ‹ΡˆΠ»Π΅Π½ΠΈΡ Π½Π° основС ΠΏΠ΅Ρ€Π²Ρ‹Ρ… ΠΏΡ€ΠΈΠ½Ρ†ΠΈΠΏΠΎΠ²Β».0011

ΠžΠΏΡƒΠ±Π»ΠΈΠΊΠΎΠ²Π°Π½ΠΎ Π² AI, Data Science, Machine Learning, Python. ΠœΠ΅Ρ‚ΠΊΠΈ: Π½Π°ΡƒΠΊΠ° ΠΎ Π΄Π°Π½Π½Ρ‹Ρ…, машинноС ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠ΅, python.

Алгоритм ΠΌΠ΅Ρ‚ΠΎΠ΄Π° ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² (SVM)

ΡΠ»Π΅Π΄ΡƒΡŽΡ‰ΠΈΠΉ β†’
← прСдыдущая

Машина ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ²

ΠΈΠ»ΠΈ SVM β€” это ΠΎΠ΄ΠΈΠ½ ΠΈΠ· самых популярных Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠΎΠ² обучСния с ΡƒΡ‡ΠΈΡ‚Π΅Π»Π΅ΠΌ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ΡΡ ΠΊΠ°ΠΊ для Π·Π°Π΄Π°Ρ‡ классификации, Ρ‚Π°ΠΊ ΠΈ для Π·Π°Π΄Π°Ρ‡ рСгрСссии. Однако Π² ΠΏΠ΅Ρ€Π²ΡƒΡŽ ΠΎΡ‡Π΅Ρ€Π΅Π΄ΡŒ ΠΎΠ½ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ΡΡ для Π·Π°Π΄Π°Ρ‡ классификации Π² машинном ΠΎΠ±ΡƒΡ‡Π΅Π½ΠΈΠΈ.

ЦСлью Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠ° SVM являСтся созданиС Π½Π°ΠΈΠ»ΡƒΡ‡ΡˆΠ΅ΠΉ Π»ΠΈΠ½ΠΈΠΈ ΠΈΠ»ΠΈ Π³Ρ€Π°Π½ΠΈΡ†Ρ‹ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ, которая ΠΌΠΎΠΆΠ΅Ρ‚ Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚ΡŒ n-ΠΌΠ΅Ρ€Π½ΠΎΠ΅ пространство Π½Π° классы, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΌΡ‹ ΠΌΠΎΠ³Π»ΠΈ Π»Π΅Π³ΠΊΠΎ ΠΏΠΎΠΌΠ΅ΡΡ‚ΠΈΡ‚ΡŒ Π½ΠΎΠ²ΡƒΡŽ Ρ‚ΠΎΡ‡ΠΊΡƒ Π΄Π°Π½Π½Ρ‹Ρ… Π² ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½ΡƒΡŽ ΠΊΠ°Ρ‚Π΅Π³ΠΎΡ€ΠΈΡŽ Π² Π±ΡƒΠ΄ΡƒΡ‰Π΅ΠΌ. Π­Ρ‚Π° Π³Ρ€Π°Π½ΠΈΡ†Π° Π½Π°ΠΈΠ»ΡƒΡ‡ΡˆΠ΅Π³ΠΎ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ называСтся Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒΡŽ.

SVM Π²Ρ‹Π±ΠΈΡ€Π°Π΅Ρ‚ ΠΊΡ€Π°ΠΉΠ½ΠΈΠ΅ Ρ‚ΠΎΡ‡ΠΊΠΈ/Π²Π΅ΠΊΡ‚ΠΎΡ€Ρ‹, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΏΠΎΠΌΠΎΠ³Π°ΡŽΡ‚ Π² создании гипСрплоскости. Π­Ρ‚ΠΈ ΠΊΡ€Π°ΠΉΠ½ΠΈΠ΅ случаи Π½Π°Π·Ρ‹Π²Π°ΡŽΡ‚ΡΡ ΠΎΠΏΠΎΡ€Π½Ρ‹ΠΌΠΈ Π²Π΅ΠΊΡ‚ΠΎΡ€Π°ΠΌΠΈ, ΠΈ, ΡΠ»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ, Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ называСтся машиной ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ². Рассмотрим ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½Π½ΡƒΡŽ Π½ΠΈΠΆΠ΅ Π΄ΠΈΠ°Π³Ρ€Π°ΠΌΠΌΡƒ, Π½Π° ΠΊΠΎΡ‚ΠΎΡ€ΠΎΠΉ Π΅ΡΡ‚ΡŒ Π΄Π²Π΅ Ρ€Π°Π·Π½Ρ‹Π΅ ΠΊΠ°Ρ‚Π΅Π³ΠΎΡ€ΠΈΠΈ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΊΠ»Π°ΡΡΠΈΡ„ΠΈΡ†ΠΈΡ€ΡƒΡŽΡ‚ΡΡ с использованиСм Π³Ρ€Π°Π½ΠΈΡ†Ρ‹ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ ΠΈΠ»ΠΈ гипСрплоскости:

ΠŸΡ€ΠΈΠΌΠ΅Ρ€: SVM ΠΌΠΎΠΆΠ½ΠΎ ΠΏΠΎΠ½ΡΡ‚ΡŒ Π½Π° ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π΅, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ ΠΌΡ‹ использовали Π² классификаторС KNN. ΠŸΡ€Π΅Π΄ΠΏΠΎΠ»ΠΎΠΆΠΈΠΌ, ΠΌΡ‹ Π²ΠΈΠ΄ΠΈΠΌ ΡΡ‚Ρ€Π°Π½Π½ΡƒΡŽ ΠΊΠΎΡˆΠΊΡƒ, которая Ρ‚Π°ΠΊΠΆΠ΅ ΠΈΠΌΠ΅Π΅Ρ‚ Π½Π΅ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Ρ‡Π΅Ρ€Ρ‚Ρ‹ собак, поэтому, Ссли Π½Π°ΠΌ Π½ΡƒΠΆΠ½Π° модСль, которая ΠΌΠΎΠΆΠ΅Ρ‚ Ρ‚ΠΎΡ‡Π½ΠΎ ΠΎΠΏΡ€Π΅Π΄Π΅Π»ΠΈΡ‚ΡŒ, кошка это ΠΈΠ»ΠΈ собака, Ρ‚ΠΎ Ρ‚Π°ΠΊΡƒΡŽ β€‹β€‹ΠΌΠΎΠ΄Π΅Π»ΡŒ ΠΌΠΎΠΆΠ½ΠΎ ΡΠΎΠ·Π΄Π°Ρ‚ΡŒ с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠ° SVM. Π‘Π½Π°Ρ‡Π°Π»Π° ΠΌΡ‹ ΠΎΠ±ΡƒΡ‡ΠΈΠΌ Π½Π°ΡˆΡƒ модСль большим количСством ΠΈΠ·ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠΉ кошСк ΠΈ собак, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΎΠ½Π° ΠΌΠΎΠ³Π»Π° ΡƒΠ·Π½Π°Ρ‚ΡŒ ΠΎ Ρ€Π°Π·Π»ΠΈΡ‡Π½Ρ‹Ρ… особСнностях кошСк ΠΈ собак, Π° Π·Π°Ρ‚Π΅ΠΌ протСстируСм Π΅Π΅ Π½Π° этом странном сущСствС. Π’Π°ΠΊ ΠΊΠ°ΠΊ ΠΎΠΏΠΎΡ€Π½Ρ‹ΠΉ Π²Π΅ΠΊΡ‚ΠΎΡ€ создаСт Π³Ρ€Π°Π½ΠΈΡ†Ρƒ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ ΠΌΠ΅ΠΆΠ΄Ρƒ этими двумя Π΄Π°Π½Π½Ρ‹ΠΌΠΈ (кошка ΠΈ собака) ΠΈ Π²Ρ‹Π±ΠΈΡ€Π°Π΅Ρ‚ ΠΊΡ€Π°ΠΉΠ½ΠΈΠ΅ случаи (ΠΎΠΏΠΎΡ€Π½Ρ‹Π΅ Π²Π΅ΠΊΡ‚ΠΎΡ€Ρ‹), ΠΎΠ½ ΡƒΠ²ΠΈΠ΄ΠΈΡ‚ ΠΊΡ€Π°ΠΉΠ½ΠΈΠΉ случай кошки ΠΈ собаки. На основС ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ² ΠΎΠ½ классифицируСт Π΅Π³ΠΎ ΠΊΠ°ΠΊ ΠΊΠΎΡˆΠΊΡƒ. Рассмотрим ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½Π½ΡƒΡŽ Π½ΠΈΠΆΠ΅ Π΄ΠΈΠ°Π³Ρ€Π°ΠΌΠΌΡƒ:

Алгоритм SVM ΠΌΠΎΠΆΠ΅Ρ‚ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒΡΡ для распознавания Π»ΠΈΡ†, классификации ΠΈΠ·ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠΉ, ΠΊΠ°Ρ‚Π΅Π³ΠΎΡ€ΠΈΠ·Π°Ρ†ΠΈΠΈ тСкста, ΠΈ Ρ‚. Π΄.

Π’ΠΈΠΏΡ‹ SVM

SVM ΠΌΠΎΠΆΠ΅Ρ‚ Π±Ρ‹Ρ‚ΡŒ Π΄Π²ΡƒΡ… Ρ‚ΠΈΠΏΠΎΠ²:

  • Π›ΠΈΠ½Π΅ΠΉΠ½Ρ‹ΠΉ SVM: Π›ΠΈΠ½Π΅ΠΉΠ½Ρ‹ΠΉ SVM ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ΡΡ для Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎ Ρ€Π°Π·Π΄Π΅Π»ΠΈΠΌΡ‹Ρ… Π΄Π°Π½Π½Ρ‹Ρ…, Ρ‡Ρ‚ΠΎ ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ Ссли Π½Π°Π±ΠΎΡ€ Π΄Π°Π½Π½Ρ‹Ρ… ΠΌΠΎΠΆΠ΅Ρ‚ Π±Ρ‹Ρ‚ΡŒ классифицирован Π½Π° Π΄Π²Π° класса с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ ΠΎΠ΄Π½ΠΎΠΉ прямой, Ρ‚ΠΎ Ρ‚Π°ΠΊΠΈΠ΅ Π΄Π°Π½Π½Ρ‹Π΅ Π½Π°Π·Ρ‹Π²Π°ΡŽΡ‚ΡΡ Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎ Ρ€Π°Π·Π΄Π΅Π»ΠΈΠΌΡ‹ΠΌΠΈ Π΄Π°Π½Π½Ρ‹ΠΌΠΈ, Π° классификатор ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ΡΡ ΠΊΠ°ΠΊ Π›ΠΈΠ½Π΅ΠΉΠ½Ρ‹ΠΉ SVM-классификатор.
  • НСлинСйный SVM: НСлинСйный SVM ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅Ρ‚ΡΡ для Π½Π΅Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎ Ρ€Π°Π·Π΄Π΅Π»Π΅Π½Π½Ρ‹Ρ… Π΄Π°Π½Π½Ρ‹Ρ…, Ρ‡Ρ‚ΠΎ ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ Ссли Π½Π°Π±ΠΎΡ€ Π΄Π°Π½Π½Ρ‹Ρ… Π½Π΅ ΠΌΠΎΠΆΠ΅Ρ‚ Π±Ρ‹Ρ‚ΡŒ классифицирован с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ прямой Π»ΠΈΠ½ΠΈΠΈ, Ρ‚ΠΎ Ρ‚Π°ΠΊΠΈΠ΅ Π΄Π°Π½Π½Ρ‹Π΅ Π½Π°Π·Ρ‹Π²Π°ΡŽΡ‚ΡΡ Π½Π΅Π»ΠΈΠ½Π΅ΠΉΠ½Ρ‹ΠΌΠΈ Π΄Π°Π½Π½Ρ‹ΠΌΠΈ, Π° ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΠ΅ΠΌΡ‹ΠΉ классификатор называСтся ΠΊΠ°ΠΊ Π½Π΅Π»ΠΈΠ½Π΅ΠΉΠ½Ρ‹ΠΉ классификатор SVM.

Π“ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ ΠΈ ΠΎΠΏΠΎΡ€Π½Ρ‹Π΅ Π²Π΅ΠΊΡ‚ΠΎΡ€Ρ‹ Π² Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠ΅ SVM:

Π“ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ: ΠœΠΎΠΆΠ΅Ρ‚ Π±Ρ‹Ρ‚ΡŒ нСсколько Π»ΠΈΠ½ΠΈΠΉ/Π³Ρ€Π°Π½ΠΈΡ† Ρ€Π΅ΡˆΠ΅Π½ΠΈΠΉ для раздСлСния классов Π² n-ΠΌΠ΅Ρ€Π½ΠΎΠΌ пространствС, Π½ΠΎ Π½Π°ΠΌ Π½ΡƒΠΆΠ½ΠΎ Π½Π°ΠΉΡ‚ΠΈ Π½Π°ΠΈΠ»ΡƒΡ‡ΡˆΡƒΡŽ Π³Ρ€Π°Π½ΠΈΡ†Ρƒ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ, которая ΠΏΠΎΠΌΠΎΠ³Π°Π΅Ρ‚ ΠΊΠ»Π°ΡΡΠΈΡ„ΠΈΡ†ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ Ρ‚ΠΎΡ‡ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ…. Π­Ρ‚Π° Π»ΡƒΡ‡ΡˆΠ°Ρ Π³Ρ€Π°Π½ΠΈΡ†Π° извСстна ΠΊΠ°ΠΊ Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ SVM.

Π Π°Π·ΠΌΠ΅Ρ€Ρ‹ гипСрплоскости зависят ΠΎΡ‚ ΠΎΠ±ΡŠΠ΅ΠΊΡ‚ΠΎΠ², ΠΏΡ€ΠΈΡΡƒΡ‚ΡΡ‚Π²ΡƒΡŽΡ‰ΠΈΡ… Π² Π½Π°Π±ΠΎΡ€Π΅ Π΄Π°Π½Π½Ρ‹Ρ…, Ρ‡Ρ‚ΠΎ ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚, Ρ‡Ρ‚ΠΎ Ссли Π΅ΡΡ‚ΡŒ 2 ΠΎΠ±ΡŠΠ΅ΠΊΡ‚Π° (ΠΊΠ°ΠΊ ΠΏΠΎΠΊΠ°Π·Π°Π½ΠΎ Π½Π° ΠΈΠ·ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠΈ), Ρ‚ΠΎ Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ Π±ΡƒΠ΄Π΅Ρ‚ прямой Π»ΠΈΠ½ΠΈΠ΅ΠΉ. А Ссли ΠΏΡ€ΠΈΠ·Π½Π°ΠΊΠΎΠ² 3, Ρ‚ΠΎ Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ Π±ΡƒΠ΄Π΅Ρ‚ Π΄Π²ΡƒΠΌΠ΅Ρ€Π½ΠΎΠΉ ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒΡŽ.

ΠœΡ‹ всСгда создаСм Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ с ΠΌΠ°ΠΊΡΠΈΠΌΠ°Π»ΡŒΠ½Ρ‹ΠΌ запасом, Ρ‡Ρ‚ΠΎ ΠΎΠ·Π½Π°Ρ‡Π°Π΅Ρ‚ максимальноС расстояниС ΠΌΠ΅ΠΆΠ΄Ρƒ Ρ‚ΠΎΡ‡ΠΊΠ°ΠΌΠΈ Π΄Π°Π½Π½Ρ‹Ρ….

ΠžΠΏΠΎΡ€Π½Ρ‹Π΅ Π²Π΅ΠΊΡ‚ΠΎΡ€Ρ‹:

Π’ΠΎΡ‡ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ… ΠΈΠ»ΠΈ Π²Π΅ΠΊΡ‚ΠΎΡ€Ρ‹, находящиСся Π±Π»ΠΈΠΆΠ΅ всСго ΠΊ гипСрплоскости ΠΈ Π²Π»ΠΈΡΡŽΡ‰ΠΈΠ΅ Π½Π° ΠΏΠΎΠ»ΠΎΠΆΠ΅Π½ΠΈΠ΅ гипСрплоскости, Π½Π°Π·Ρ‹Π²Π°ΡŽΡ‚ΡΡ ΠΎΠΏΠΎΡ€Π½Ρ‹ΠΌΠΈ Π²Π΅ΠΊΡ‚ΠΎΡ€Π°ΠΌΠΈ. ΠŸΠΎΡΠΊΠΎΠ»ΡŒΠΊΡƒ эти Π²Π΅ΠΊΡ‚ΠΎΡ€Ρ‹ ΠΏΠΎΠ΄Π΄Π΅Ρ€ΠΆΠΈΠ²Π°ΡŽΡ‚ Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ, ΠΎΠ½ΠΈ Π½Π°Π·Ρ‹Π²Π°ΡŽΡ‚ΡΡ ΠΎΠΏΠΎΡ€Π½Ρ‹ΠΌΠΈ Π²Π΅ΠΊΡ‚ΠΎΡ€Π°ΠΌΠΈ.

Как Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚ SVM?

Π›ΠΈΠ½Π΅ΠΉΠ½Ρ‹ΠΉ SVM:

Π Π°Π±ΠΎΡ‚Ρƒ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌΠ° SVM ΠΌΠΎΠΆΠ½ΠΎ ΠΏΠΎΠ½ΡΡ‚ΡŒ Π½Π° ΠΏΡ€ΠΈΠΌΠ΅Ρ€Π΅. ΠŸΡ€Π΅Π΄ΠΏΠΎΠ»ΠΎΠΆΠΈΠΌ, Ρƒ нас Π΅ΡΡ‚ΡŒ Π½Π°Π±ΠΎΡ€ Π΄Π°Π½Π½Ρ‹Ρ… с двумя Ρ‚Π΅Π³Π°ΠΌΠΈ (Π·Π΅Π»Π΅Π½Ρ‹ΠΉ ΠΈ синий), Π° Ρ‚Π°ΠΊΠΆΠ΅ Π½Π°Π±ΠΎΡ€ Π΄Π°Π½Π½Ρ‹Ρ… с двумя функциями x1 ΠΈ x2. Нам Π½ΡƒΠΆΠ΅Π½ классификатор, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ ΠΌΠΎΠΆΠ΅Ρ‚ ΠΊΠ»Π°ΡΡΠΈΡ„ΠΈΡ†ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΠΏΠ°Ρ€Ρƒ (x1, x2) ΠΊΠΎΠΎΡ€Π΄ΠΈΠ½Π°Ρ‚ Π»ΠΈΠ±ΠΎ Π·Π΅Π»Π΅Π½Ρ‹ΠΌ, Π»ΠΈΠ±ΠΎ синим Ρ†Π²Π΅Ρ‚ΠΎΠΌ. Рассмотрим ΠΈΠ·ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠ΅ Π½ΠΈΠΆΠ΅:

Π˜Ρ‚Π°ΠΊ, ΠΏΠΎΡΠΊΠΎΠ»ΡŒΠΊΡƒ это Π΄Π²ΡƒΠΌΠ΅Ρ€Π½ΠΎΠ΅ пространство, Ρ‚ΠΎ, ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΡ ΠΏΡ€ΡΠΌΡƒΡŽ линию, ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ Π»Π΅Π³ΠΊΠΎ Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚ΡŒ эти Π΄Π²Π° класса. Но ΠΌΠΎΠΆΠ΅Ρ‚ Π±Ρ‹Ρ‚ΡŒ нСсколько Π»ΠΈΠ½ΠΈΠΉ, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ ΠΌΠΎΠ³ΡƒΡ‚ Ρ€Π°Π·Π΄Π΅Π»ΡΡ‚ΡŒ эти классы. Рассмотрим ΠΈΠ·ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠ΅ Π½ΠΈΠΆΠ΅:

Π‘Π»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ, Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ SVM ΠΏΠΎΠΌΠΎΠ³Π°Π΅Ρ‚ Π½Π°ΠΉΡ‚ΠΈ Π½Π°ΠΈΠ»ΡƒΡ‡ΡˆΡƒΡŽ линию ΠΈΠ»ΠΈ Π³Ρ€Π°Π½ΠΈΡ†Ρƒ Ρ€Π΅ΡˆΠ΅Π½ΠΈΡ; эта Π½Π°ΠΈΠ»ΡƒΡ‡ΡˆΠ°Ρ Π³Ρ€Π°Π½ΠΈΡ†Π° ΠΈΠ»ΠΈ ΠΎΠ±Π»Π°ΡΡ‚ΡŒ называСтся Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒΡŽ . Алгоритм SVM Π½Π°Ρ…ΠΎΠ΄ΠΈΡ‚ Π±Π»ΠΈΠΆΠ°ΠΉΡˆΡƒΡŽ Ρ‚ΠΎΡ‡ΠΊΡƒ Π»ΠΈΠ½ΠΈΠΉ ΠΈΠ· ΠΎΠ±ΠΎΠΈΡ… классов. Π­Ρ‚ΠΈ Ρ‚ΠΎΡ‡ΠΊΠΈ Π½Π°Π·Ρ‹Π²Π°ΡŽΡ‚ΡΡ ΠΎΠΏΠΎΡ€Π½Ρ‹ΠΌΠΈ Π²Π΅ΠΊΡ‚ΠΎΡ€Π°ΠΌΠΈ. РасстояниС ΠΌΠ΅ΠΆΠ΄Ρƒ Π²Π΅ΠΊΡ‚ΠΎΡ€Π°ΠΌΠΈ ΠΈ Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒΡŽ называСтся margin . И Ρ†Π΅Π»ΡŒ SVM β€” ΠΌΠ°ΠΊΡΠΈΠΌΠΈΠ·ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ эту ΠΌΠ°Ρ€ΠΆΡƒ. Π“ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ с ΠΌΠ°ΠΊΡΠΈΠΌΠ°Π»ΡŒΠ½Ρ‹ΠΌ запасом называСтся ΠΎΠΏΡ‚ΠΈΠΌΠ°Π»ΡŒΠ½ΠΎΠΉ Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒΡŽ .

НСлинСйный SVM:

Если Π΄Π°Π½Π½Ρ‹Π΅ располоТСны Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎ, Ρ‚ΠΎ ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚ΡŒ ΠΈΡ… с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ прямой Π»ΠΈΠ½ΠΈΠΈ, Π½ΠΎ для Π½Π΅Π»ΠΈΠ½Π΅ΠΉΠ½Ρ‹Ρ… Π΄Π°Π½Π½Ρ‹Ρ… ΠΌΡ‹ Π½Π΅ ΠΌΠΎΠΆΠ΅ΠΌ провСсти ΠΎΠ΄Π½Ρƒ ΠΏΡ€ΡΠΌΡƒΡŽ линию. Рассмотрим ΠΈΠ·ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠ΅ Π½ΠΈΠΆΠ΅:

Π˜Ρ‚Π°ΠΊ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚ΡŒ эти Ρ‚ΠΎΡ‡ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ…, Π½Π°ΠΌ Π½ΡƒΠΆΠ½ΠΎ Π΄ΠΎΠ±Π°Π²ΠΈΡ‚ΡŒ Π΅Ρ‰Π΅ ΠΎΠ΄Π½ΠΎ ΠΈΠ·ΠΌΠ΅Ρ€Π΅Π½ΠΈΠ΅. Для Π»ΠΈΠ½Π΅ΠΉΠ½Ρ‹Ρ… Π΄Π°Π½Π½Ρ‹Ρ… ΠΌΡ‹ использовали Π΄Π²Π° измСрСния x ΠΈ y, поэтому для Π½Π΅Π»ΠΈΠ½Π΅ΠΉΠ½Ρ‹Ρ… Π΄Π°Π½Π½Ρ‹Ρ… ΠΌΡ‹ Π΄ΠΎΠ±Π°Π²ΠΈΠΌ Ρ‚Ρ€Π΅Ρ‚ΡŒΠ΅ ΠΈΠ·ΠΌΠ΅Ρ€Π΅Π½ΠΈΠ΅ z. Π•Π³ΠΎ ΠΌΠΎΠΆΠ½ΠΎ Ρ€Π°ΡΡΡ‡ΠΈΡ‚Π°Ρ‚ΡŒ ΠΊΠ°ΠΊ:

 z=x  2  +y  2  

ΠŸΡ€ΠΈ Π΄ΠΎΠ±Π°Π²Π»Π΅Π½ΠΈΠΈ Ρ‚Ρ€Π΅Ρ‚ΡŒΠ΅Π³ΠΎ измСрСния пространство Π²Ρ‹Π±ΠΎΡ€ΠΊΠΈ станСт Ρ‚Π°ΠΊΠΈΠΌ, ΠΊΠ°ΠΊ ΠΏΠΎΠΊΠ°Π·Π°Π½ΠΎ Π½Π° рисункС Π½ΠΈΠΆΠ΅:

Π’Π΅ΠΏΠ΅Ρ€ΡŒ SVM Ρ€Π°Π·Π΄Π΅Π»ΠΈΡ‚ Π½Π°Π±ΠΎΡ€Ρ‹ Π΄Π°Π½Π½Ρ‹Ρ… Π½Π° классы ΡΠ»Π΅Π΄ΡƒΡŽΡ‰ΠΈΠΌ ΠΎΠ±Ρ€Π°Π·ΠΎΠΌ. Рассмотрим ΠΈΠ·ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠ΅ Π½ΠΈΠΆΠ΅:

ΠŸΠΎΡΠΊΠΎΠ»ΡŒΠΊΡƒ ΠΌΡ‹ находимся Π² Ρ‚Ρ€Π΅Ρ…ΠΌΠ΅Ρ€Π½ΠΎΠΌ пространствС, ΠΎΠ½ΠΎ выглядит ΠΊΠ°ΠΊ ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ, ΠΏΠ°Ρ€Π°Π»Π»Π΅Π»ΡŒΠ½Π°Ρ оси x. Если ΠΌΡ‹ ΠΏΡ€Π΅ΠΎΠ±Ρ€Π°Π·ΡƒΠ΅ΠΌ Π΅Π³ΠΎ Π² 2d-пространство с z=1, Ρ‚ΠΎ ΠΎΠ½ станСт Ρ‚Π°ΠΊΠΈΠΌ:

Π‘Π»Π΅Π΄ΠΎΠ²Π°Ρ‚Π΅Π»ΡŒΠ½ΠΎ, ΠΌΡ‹ ΠΏΠΎΠ»ΡƒΡ‡Π°Π΅ΠΌ ΠΎΠΊΡ€ΡƒΠΆΠ½ΠΎΡΡ‚ΡŒ радиусом 1 Π² случаС Π½Π΅Π»ΠΈΠ½Π΅ΠΉΠ½Ρ‹Ρ… Π΄Π°Π½Π½Ρ‹Ρ….

Python РСализация ΠΌΠ°ΡˆΠΈΠ½Ρ‹ ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ²

Π’Π΅ΠΏΠ΅Ρ€ΡŒ ΠΌΡ‹ Ρ€Π΅Π°Π»ΠΈΠ·ΡƒΠ΅ΠΌ Π°Π»Π³ΠΎΡ€ΠΈΡ‚ΠΌ SVM с ΠΏΠΎΠΌΠΎΡ‰ΡŒΡŽ Python. Π—Π΄Π΅ΡΡŒ ΠΌΡ‹ Π±ΡƒΠ΄Π΅ΠΌ ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚ΡŒ Ρ‚ΠΎΡ‚ ΠΆΠ΅ Π½Π°Π±ΠΎΡ€ Π΄Π°Π½Π½Ρ‹Ρ… user_data , ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ ΠΌΡ‹ использовали Π² логистичСской рСгрСссии ΠΈ классификации KNN.

  • Π­Ρ‚Π°ΠΏ ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΠΉ ΠΎΠ±Ρ€Π°Π±ΠΎΡ‚ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ…

Π”ΠΎ этапа ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΠΉ ΠΎΠ±Ρ€Π°Π±ΠΎΡ‚ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ… ΠΊΠΎΠ΄ остаСтся ΠΏΡ€Π΅ΠΆΠ½ΠΈΠΌ. НиТС ΠΊΠΎΠ΄:

#Π­Ρ‚Π°ΠΏ ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΠΉ ΠΎΠ±Ρ€Π°Π±ΠΎΡ‚ΠΊΠΈ Π΄Π°Π½Π½Ρ‹Ρ…
# ΠΈΠΌΠΏΠΎΡ€Ρ‚ Π±ΠΈΠ±Π»ΠΈΠΎΡ‚Π΅ΠΊ
ΠΈΠΌΠΏΠΎΡ€Ρ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ numpy ΠΊΠ°ΠΊ nm
ΠΈΠΌΠΏΠΎΡ€Ρ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ matplotlib.pyplot ΠΊΠ°ΠΊ mtp
ΠΈΠΌΠΏΠΎΡ€Ρ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΠΏΠ°Π½Π΄ ΠΊΠ°ΠΊ pd

#ΠΈΠΌΠΏΠΎΡ€Ρ‚ Π½Π°Π±ΠΎΡ€ΠΎΠ² Π΄Π°Π½Π½Ρ‹Ρ…
data_set = pd.read_csv(‘user_data.csv’)

#Π˜Π·Π²Π»Π΅Ρ‡Π΅Π½ΠΈΠ΅ нСзависимой ΠΈ зависимой ΠΏΠ΅Ρ€Π΅ΠΌΠ΅Π½Π½ΠΎΠΉ
x= data_set.iloc[:, [2,3]].значСния
y= data_set.iloc[:, 4].значСния

# Π Π°Π·Π΄Π΅Π»Π΅Π½ΠΈΠ΅ Π½Π°Π±ΠΎΡ€Π° Π΄Π°Π½Π½Ρ‹Ρ… Π½Π° ΠΎΠ±ΡƒΡ‡Π°ΡŽΡ‰ΠΈΠΉ ΠΈ тСстовый Π½Π°Π±ΠΎΡ€Ρ‹.
ΠΈΠ· sklearn.model_selection ΠΈΠΌΠΏΠΎΡ€Ρ‚Π° train_test_split
x_train, x_test, y_train, y_test= train_test_split(x, y, test_size= 0,25, random_state=0)
#feature ΠœΠ°ΡΡˆΡ‚Π°Π±ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅
ΠΈΠ· sklearn.preprocessing ΠΈΠΌΠΏΠΎΡ€Ρ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ StandardScaler
st_x= Π‘Ρ‚Π°Π½Π΄Π°Ρ€Ρ‚Π½Ρ‹ΠΉ ΠΌΠ°ΡΡˆΡ‚Π°Π±()
x_train = st_x.fit_transform (x_train)
x_test = st_x.transform (x_test)

ПослС выполнСния ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½Π½ΠΎΠ³ΠΎ Π²Ρ‹ΡˆΠ΅ ΠΊΠΎΠ΄Π° ΠΌΡ‹ ΠΏΡ€Π΅Π΄Π²Π°Ρ€ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ ΠΎΠ±Ρ€Π°Π±ΠΎΡ‚Π°Π΅ΠΌ Π΄Π°Π½Π½Ρ‹Π΅. Код даст Π½Π°Π±ΠΎΡ€ Π΄Π°Π½Π½Ρ‹Ρ… ΠΊΠ°ΠΊ:

ΠœΠ°ΡΡˆΡ‚Π°Π±ΠΈΡ€ΠΎΠ²Π°Π½Π½Ρ‹ΠΉ Π²Ρ‹Π²ΠΎΠ΄ для тСстового Π½Π°Π±ΠΎΡ€Π° Π±ΡƒΠ΄Π΅Ρ‚:

Подгонка SVM-классификатора ΠΊ ΠΎΠ±ΡƒΡ‡Π°ΡŽΡ‰Π΅ΠΌΡƒ Π½Π°Π±ΠΎΡ€Ρƒ:

Π’Π΅ΠΏΠ΅Ρ€ΡŒ ΠΎΠ±ΡƒΡ‡Π°ΡŽΡ‰Π°Ρ Π²Ρ‹Π±ΠΎΡ€ΠΊΠ° Π±ΡƒΠ΄Π΅Ρ‚ ΠΏΠΎΠ΄ΠΎΠ³Π½Π°Π½Π° ΠΊ классификатору SVM. Π§Ρ‚ΠΎΠ±Ρ‹ ΡΠΎΠ·Π΄Π°Ρ‚ΡŒ классификатор SVM, ΠΌΡ‹ ΠΈΠΌΠΏΠΎΡ€Ρ‚ΠΈΡ€ΡƒΠ΅ΠΌ класс SVC ΠΈΠ· Π±ΠΈΠ±Π»ΠΈΠΎΡ‚Π΅ΠΊΠΈ Sklearn.svm . НиТС ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½ ΠΊΠΎΠ΄ для Π½Π΅Π³ΠΎ:

from sklearn.svm import SVC # «ΠšΠ»Π°ΡΡΠΈΡ„ΠΈΠΊΠ°Ρ‚ΠΎΡ€ ΠΎΠΏΠΎΡ€Π½Ρ‹Ρ… Π²Π΅ΠΊΡ‚ΠΎΡ€ΠΎΠ²»
классификатор = SVC (ядро = ‘Π»ΠΈΠ½Π΅ΠΉΠ½Ρ‹ΠΉ’, random_state = 0)
classifier.fit(x_train, y_train)

Π’ ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½Π½ΠΎΠΌ Π²Ρ‹ΡˆΠ΅ ΠΊΠΎΠ΄Π΅ ΠΌΡ‹ использовали kernel=’linear’ , Ρ‚Π°ΠΊ ΠΊΠ°ΠΊ здСсь ΠΌΡ‹ создаСм SVM для Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎ Ρ€Π°Π·Π΄Π΅Π»ΠΈΠΌΡ‹Ρ… Π΄Π°Π½Π½Ρ‹Ρ…. Однако ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ ΠΈΠ·ΠΌΠ΅Π½ΠΈΡ‚ΡŒ Π΅Π³ΠΎ для Π½Π΅Π»ΠΈΠ½Π΅ΠΉΠ½Ρ‹Ρ… Π΄Π°Π½Π½Ρ‹Ρ…. А Π·Π°Ρ‚Π΅ΠΌ ΠΌΡ‹ ΠΏΠΎΠ΄ΠΎΠ±Ρ€Π°Π»ΠΈ классификатор ΠΊ Π½Π°Π±ΠΎΡ€Ρƒ ΠΎΠ±ΡƒΡ‡Π°ΡŽΡ‰ΠΈΡ… Π΄Π°Π½Π½Ρ‹Ρ… (x_train, y_train)

.

Π’Ρ‹Π²ΠΎΠ΄:

 Π’Ρ‹Ρ…ΠΎΠ΄[8]:
SVC(C=1.0, cache_size=200, class_weight=НСт, coef0=0.0,
    solution_function_shape='ovr', ΡΡ‚Π΅ΠΏΠ΅Π½ΡŒ=3, Π³Π°ΠΌΠΌΠ°='auto_deprecated',
    ядро = 'Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎΠ΅', max_iter = -1, Π²Π΅Ρ€ΠΎΡΡ‚Π½ΠΎΡΡ‚ΡŒ = лоТь, random_state = 0,
    сТатиС = Π˜ΡΡ‚ΠΈΠ½Π°, tol = 0,001, verbose = Π›ΠΎΠΆΡŒ)
 

ΠŸΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΡŒ ΠΌΠΎΠ΄Π΅Π»ΠΈ ΠΌΠΎΠΆΠ½ΠΎ ΠΈΠ·ΠΌΠ΅Π½ΠΈΡ‚ΡŒ, ΠΈΠ·ΠΌΠ΅Π½ΠΈΠ² Π·Π½Π°Ρ‡Π΅Π½ΠΈΠ΅ C (коэффициСнт рСгуляризации), Π³Π°ΠΌΠΌΡƒ ΠΈ ядро ​​.

  • ΠŸΡ€ΠΎΠ³Π½ΠΎΠ·ΠΈΡ€ΠΎΠ²Π°Π½ΠΈΠ΅ Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚Π° Π½Π°Π±ΠΎΡ€Π° тСстов:
    Π’Π΅ΠΏΠ΅Ρ€ΡŒ ΠΌΡ‹ прСдскаТСм Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚ Π½Π°Π±ΠΎΡ€Π° тСстов. Для этого ΠΌΡ‹ создадим Π½ΠΎΠ²Ρ‹ΠΉ Π²Π΅ΠΊΡ‚ΠΎΡ€ y_pred. НиТС ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½ ΠΊΠΎΠ΄ для Π½Π΅Π³ΠΎ:

#ΠŸΡ€Π΅Π΄ΡΠΊΠ°Π·Π°Π½ΠΈΠ΅ Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚Π° Π½Π°Π±ΠΎΡ€Π° тСстов
y_pred = классификатор.predict (x_test)

ΠŸΠΎΠ»ΡƒΡ‡ΠΈΠ² Π²Π΅ΠΊΡ‚ΠΎΡ€ y_pred, ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ ΡΡ€Π°Π²Π½ΠΈΡ‚ΡŒ Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚ y_pred ΠΈ y_test для ΠΏΡ€ΠΎΠ²Π΅Ρ€ΠΊΠΈ Ρ€Π°Π·Π½ΠΈΡ†Ρ‹ ΠΌΠ΅ΠΆΠ΄Ρƒ фактичСским Π·Π½Π°Ρ‡Π΅Π½ΠΈΠ΅ΠΌ ΠΈ ΠΏΡ€ΠΎΠ³Π½ΠΎΠ·ΠΈΡ€ΡƒΠ΅ΠΌΡ‹ΠΌ Π·Π½Π°Ρ‡Π΅Π½ΠΈΠ΅ΠΌ.

Π’Ρ‹Π²ΠΎΠ΄: НиТС ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½ Π²Ρ‹Π²ΠΎΠ΄ для ΠΏΡ€ΠΎΠ³Π½ΠΎΠ·Π° тСстового Π½Π°Π±ΠΎΡ€Π°:

  • Π‘ΠΎΠ·Π΄Π°Π½ΠΈΠ΅ ΠΌΠ°Ρ‚Ρ€ΠΈΡ†Ρ‹ ΠΏΡƒΡ‚Π°Π½ΠΈΡ†Ρ‹:
    Π’Π΅ΠΏΠ΅Ρ€ΡŒ ΠΌΡ‹ ΡƒΠ²ΠΈΠ΄ΠΈΠΌ ΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΡŒ классификатора SVM, Π° ΠΈΠΌΠ΅Π½Π½ΠΎ количСство Π½Π΅ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½Ρ‹Ρ… ΠΏΡ€ΠΎΠ³Π½ΠΎΠ·ΠΎΠ² ΠΏΠΎ ΡΡ€Π°Π²Π½Π΅Π½ΠΈΡŽ с классификатором логистичСской рСгрСссии. Π§Ρ‚ΠΎΠ±Ρ‹ ΡΠΎΠ·Π΄Π°Ρ‚ΡŒ ΠΌΠ°Ρ‚Ρ€ΠΈΡ†Ρƒ ΠΏΡƒΡ‚Π°Π½ΠΈΡ†Ρ‹, Π½Π°ΠΌ Π½ΡƒΠΆΠ½ΠΎ ΠΈΠΌΠΏΠΎΡ€Ρ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΠΌΠ°Ρ‚Ρ€ΠΈΡ†Π° ΠΏΡƒΡ‚Π°Π½ΠΈΡ†Ρ‹ 9.0004 функция Π±ΠΈΠ±Π»ΠΈΠΎΡ‚Π΅ΠΊΠΈ sklearn. ПослС ΠΈΠΌΠΏΠΎΡ€Ρ‚Π° Ρ„ΡƒΠ½ΠΊΡ†ΠΈΠΈ ΠΌΡ‹ Π±ΡƒΠ΄Π΅ΠΌ Π²Ρ‹Π·Ρ‹Π²Π°Ρ‚ΡŒ Π΅Π΅, ΠΈΡΠΏΠΎΠ»ΡŒΠ·ΡƒΡ Π½ΠΎΠ²ΡƒΡŽ ΠΏΠ΅Ρ€Π΅ΠΌΠ΅Π½Π½ΡƒΡŽ см . Ѐункция ΠΏΡ€ΠΈΠ½ΠΈΠΌΠ°Π΅Ρ‚ Π΄Π²Π° ΠΏΠ°Ρ€Π°ΠΌΠ΅Ρ‚Ρ€Π°, Π² основном y_true (фактичСскиС значСния) ΠΈ y_pred (Ρ†Π΅Π»Π΅Π²ΠΎΠ΅ Π·Π½Π°Ρ‡Π΅Π½ΠΈΠ΅, Π²ΠΎΠ·Π²Ρ€Π°Ρ‰Π°Π΅ΠΌΠΎΠ΅ классификатором). НиТС ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½ ΠΊΠΎΠ΄ для Π½Π΅Π³ΠΎ:

#Π‘ΠΎΠ·Π΄Π°Π½ΠΈΠ΅ ΠΌΠ°Ρ‚Ρ€ΠΈΡ†Ρ‹ ΠΏΡƒΡ‚Π°Π½ΠΈΡ†Ρ‹
ΠΈΠ· sklearn.metrics ΠΈΠΌΠΏΠΎΡ€Ρ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ΠΏΡƒΡ‚Π°Π½ΠΈΡ†Ρƒ_ΠΌΠ°Ρ‚Ρ€ΠΈΡ†Ρƒ
см = ΠΌΠ°Ρ‚Ρ€ΠΈΡ†Π°_Π·Π°ΠΌΠ΅ΡˆΠ°Ρ‚Π΅Π»ΡŒΡΡ‚Π²Π° (y_test, y_pred)

Π’Ρ‹Π²ΠΎΠ΄:

Как Π²ΠΈΠ΄Π½ΠΎ ΠΈΠ· Π²Ρ‹Ρ…ΠΎΠ΄Π½ΠΎΠ³ΠΎ изобраТСния Π²Ρ‹ΡˆΠ΅, имССтся 66+24= 90 ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½Ρ‹Ρ… прСдсказаний ΠΈ 8+2= 10 ΠΏΡ€Π°Π²ΠΈΠ»ΡŒΠ½Ρ‹Ρ… прСдсказаний. ΠŸΠΎΡΡ‚ΠΎΠΌΡƒ ΠΌΡ‹ ΠΌΠΎΠΆΠ΅ΠΌ ΡΠΊΠ°Π·Π°Ρ‚ΡŒ, Ρ‡Ρ‚ΠΎ наша модСль SVM ΡƒΠ»ΡƒΡ‡ΡˆΠΈΠ»Π°ΡΡŒ ΠΏΠΎ ΡΡ€Π°Π²Π½Π΅Π½ΠΈΡŽ с модСлью логистичСской рСгрСссии.

  • Визуализация Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚Π° Ρ‚Ρ€Π΅Π½ΠΈΡ€ΠΎΠ²ΠΎΡ‡Π½ΠΎΠ³ΠΎ Π½Π°Π±ΠΎΡ€Π°:
    Π’Π΅ΠΏΠ΅Ρ€ΡŒ ΠΌΡ‹ Π²ΠΈΠ·ΡƒΠ°Π»ΠΈΠ·ΠΈΡ€ΡƒΠ΅ΠΌ Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚ Ρ‚Ρ€Π΅Π½ΠΈΡ€ΠΎΠ²ΠΎΡ‡Π½ΠΎΠ³ΠΎ Π½Π°Π±ΠΎΡ€Π°, Π½ΠΈΠΆΠ΅ ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½ ΠΊΠΎΠ΄ для Π½Π΅Π³ΠΎ:

ΠΈΠ· matplotlib.colors ΠΈΠΌΠΏΠΎΡ€Ρ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ListedColormap
x_set, y_set = x_train, y_train
x1, x2 = nm.meshgrid(nm.arange(Π½Π°Ρ‡Π°Π»ΠΎ = x_set[:, 0].min() — 1, стоп = x_set[:, 0].max() + 1, шаг = 0,01),
nm.arange(Π½Π°Ρ‡Π°Π»ΠΎ = x_set[:, 1]. min() — 1, стоп = x_set[:, 1].max() + 1, шаг = 0,01))
mtp.contourf(x1, x2, classifier.predict(nm.array([x1.ravel(), x2.ravel()]).T).reshape(x1.shape),
Π°Π»ΡŒΡ„Π° = 0,75, cmap = ListedColormap((‘красный’, ‘Π·Π΅Π»Π΅Π½Ρ‹ΠΉ’)))
mtp.xlim (x1.min(), x1.max())
mtp.ylim (x2.min(), x2.max())
для i, j Π² пСрСчислСнии (nm.unique (y_set)):
mtp.scatter(x_set[y_set == j, 0], x_set[y_set == j, 1],
c = ListedColormap((‘красный’, ‘Π·Π΅Π»Π΅Π½Ρ‹ΠΉ’))(i), ΠΌΠ΅Ρ‚ΠΊΠ° = j)
mtp.title(‘ΠšΠ»Π°ΡΡΠΈΡ„ΠΈΠΊΠ°Ρ‚ΠΎΡ€ SVM (ΠžΠ±ΡƒΡ‡Π°ΡŽΡ‰ΠΈΠΉ Π½Π°Π±ΠΎΡ€)’)
mtp.xlabel(‘Возраст’)
mtp.ylabel(‘ΠžΡ€ΠΈΠ΅Π½Ρ‚ΠΈΡ€ΠΎΠ²ΠΎΡ‡Π½Π°Ρ Π·Π°Ρ€ΠΏΠ»Π°Ρ‚Π°’)
mtp.Π»Π΅Π³Π΅Π½Π΄Π°()
mtp.show()

Π’Ρ‹Π²ΠΎΠ΄:

Π’Ρ‹ΠΏΠΎΠ»Π½ΠΈΠ² ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½Π½Ρ‹ΠΉ Π²Ρ‹ΡˆΠ΅ ΠΊΠΎΠ΄, ΠΌΡ‹ ΠΏΠΎΠ»ΡƒΡ‡ΠΈΠΌ Π²Ρ‹Π²ΠΎΠ΄:

Как ΠΌΡ‹ Π²ΠΈΠ΄ΠΈΠΌ, ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½Π½Ρ‹ΠΉ Π²Ρ‹ΡˆΠ΅ Π²Ρ‹Π²ΠΎΠ΄ ΠΏΠΎΡ…ΠΎΠΆ Π½Π° Π²Ρ‹Π²ΠΎΠ΄ логистичСской рСгрСссии. На Π²Ρ‹Ρ…ΠΎΠ΄Π΅ ΠΌΡ‹ ΠΏΠΎΠ»ΡƒΡ‡ΠΈΠ»ΠΈ ΠΏΡ€ΡΠΌΡƒΡŽ линию Π² Π²ΠΈΠ΄Π΅ гипСрплоскости, ΠΏΠΎΡ‚ΠΎΠΌΡƒ Ρ‡Ρ‚ΠΎ использовали Π»ΠΈΠ½Π΅ΠΉΠ½ΠΎΠ΅ ядро ​​в классификаторС . И ΠΌΡ‹ Ρ‚Π°ΠΊΠΆΠ΅ обсуТдали Π²Ρ‹ΡˆΠ΅, Ρ‡Ρ‚ΠΎ для Π΄Π²ΡƒΠΌΠ΅Ρ€Π½ΠΎΠ³ΠΎ пространства Π³ΠΈΠΏΠ΅Ρ€ΠΏΠ»ΠΎΡΠΊΠΎΡΡ‚ΡŒ Π² SVM являСтся прямой Π»ΠΈΠ½ΠΈΠ΅ΠΉ.

  • Визуализация Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚ΠΎΠ² Π½Π°Π±ΠΎΡ€Π° тСстов:

#Визуализация Ρ€Π΅Π·ΡƒΠ»ΡŒΡ‚Π°Ρ‚Π° Π½Π°Π±ΠΎΡ€Π° тСстов
ΠΈΠ· matplotlib.colors ΠΈΠΌΠΏΠΎΡ€Ρ‚ΠΈΡ€ΠΎΠ²Π°Ρ‚ΡŒ ListedColormap
x_set, y_set = x_test, y_test
x1, x2 = nm.meshgrid(nm.arange(Π½Π°Ρ‡Π°Π»ΠΎ = x_set[:, 0].min() — 1, стоп = x_set[:, 0].max() + 1, шаг = 0,01),
nm.arange(Π½Π°Ρ‡Π°Π»ΠΎ = x_set[:, 1].min() — 1, стоп = x_set[:, 1].max() + 1, шаг = 0,01))
mtp.contourf(x1, x2, classifier.predict(nm.array([x1.ravel(), x2.ravel()]).T).reshape(x1.shape),
Π°Π»ΡŒΡ„Π° = 0,75, cmap = ListedColormap((‘красный’,’Π·Π΅Π»Π΅Π½Ρ‹ΠΉ’ )))
mtp.xlim (x1.min(), x1.max())
mtp.ylim (x2.min(), x2.max())
для i, j Π² пСрСчислСнии (nm.unique (y_set)):
mtp.scatter(x_set[y_set == j, 0], x_set[y_set == j, 1],
c = ListedColormap((‘красный’, ‘Π·Π΅Π»Π΅Π½Ρ‹ΠΉ’))(i), ΠΌΠ΅Ρ‚ΠΊΠ° = j)
mtp.title(‘ΠšΠ»Π°ΡΡΠΈΡ„ΠΈΠΊΠ°Ρ‚ΠΎΡ€ SVM (ВСстовый Π½Π°Π±ΠΎΡ€)’)
mtp.xlabel(‘Возраст’)
mtp.ylabel(‘ΠžΡ€ΠΈΠ΅Π½Ρ‚ΠΈΡ€ΠΎΠ²ΠΎΡ‡Π½Π°Ρ Π·Π°Ρ€ΠΏΠ»Π°Ρ‚Π°’)
mtp.Π»Π΅Π³Π΅Π½Π΄Π°()
mtp.show()

Π’Ρ‹Π²ΠΎΠ΄:

Π’Ρ‹ΠΏΠΎΠ»Π½ΠΈΠ² ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½Π½Ρ‹ΠΉ Π²Ρ‹ΡˆΠ΅ ΠΊΠΎΠ΄, ΠΌΡ‹ ΠΏΠΎΠ»ΡƒΡ‡ΠΈΠΌ Π²Ρ‹Π²ΠΎΠ΄:

Как ΠΌΡ‹ Π²ΠΈΠ΄ΠΈΠΌ Π½Π° ΠΏΡ€ΠΈΠ²Π΅Π΄Π΅Π½Π½ΠΎΠΌ Π²Ρ‹ΡˆΠ΅ Π²Ρ‹Ρ…ΠΎΠ΄Π½ΠΎΠΌ ΠΈΠ·ΠΎΠ±Ρ€Π°ΠΆΠ΅Π½ΠΈΠΈ, классификатор SVM Ρ€Π°Π·Π΄Π΅Π»ΠΈΠ» ΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚Π΅Π»Π΅ΠΉ Π½Π° Π΄Π²Π΅ области (ΠšΡƒΠΏΠ»Π΅Π½Π½Ρ‹Π΅ ΠΈΠ»ΠΈ НС ΠΊΡƒΠΏΠ»Π΅Π½Π½Ρ‹Π΅).

Π“Ρ€ΡƒΠ·ΠΎΠΏΠ΅Ρ€Π΅Π²ΠΎΠ·ΠΊΠΈ ΠΏΠΎ МосквС ΠΈ
области

Π³.Москва, ΠΌ.ШоссС Энтузиастов,
ΡƒΠ». ЭлСктродная, Π΄.8, стр.4