Video: Minute Squash #9 - Création et exécution de suites de tests (Noiembrie 2024)
Importanța mărimii eșantionului
Este intuitiv evident că un test ca acesta va obține rezultate mai precise cu un set mai mare de eșantioane, dar de data aceasta în jurul AV-Comparatives a explicat clar consecințele unui set de probe prea mic. Un simplu raport separat prezintă statisticile și sunt puțin surprinzătoare.
Să presupunem că un anumit produs a detectat 80 la sută dintr-un set de 10.000 de probe malware. Acum să presupunem că alegeți doar zece probe la întâmplare din aceeași colecție. Folosind un grafic al tuturor rezultatelor posibile, raportul demonstrează că realizarea aceleiași rate de detecție, o rată de detecție mai mare sau o rată de detecție mai mică sunt aproape la fel de probabile. Da, reducerea a zece eșantioane este un caz extrem, dar sigur este sensul.
Metode de testare
Folosind metode de căutare automată și manuală, echipa de cercetare adună în fiecare zi URL-uri răutăcioase din lumea reală. Aceștia selectează în mod special un mix de legături directe către fișiere malware și site-uri de descărcare drive-by. Parcurgând eșantioanele zilei unul câte unul, acestea expun toate produsele la o anumită adresă URL simultan și urmăresc cum reacționează fiecare produs. Dacă orice componentă a suitei se oprește de malware, asta va fi un succes. Dacă programul malware alunecă și configurează menținerea, acesta este un eșec.
Uneori, suita va apărea cu o notificare că s-a găsit ceva , solicitând utilizatorului să o blocheze sau să o permită. În scopuri de testare, analiștii AV-Comparatives aleg întotdeauna să permită acțiunea. Un produs care apără cu succes sistemul, în ciuda acestei acțiuni, obține credit complet; un produs care permite sistemului să fie compromis din cauza unei alegeri greșite de către utilizator primește jumătate de credit.
Odată finalizat un anumit caz de testare, toate sistemele de testare sunt reimaginate înapoi la o stare pre-malware, gata pentru următorul caz de testare.
Pozitive false
Un rezultat fals pozitiv apare atunci când software-ul de securitate blochează în mod eronat accesul la un fișier sau site web legitim. În mod clar, nu doriți ca suita dvs. de securitate să șteargă fișierele valide sau să vă ferească de site-urile inofensive. AV-Comparatives a testat fiecare produs cu aproximativ o mie de domenii alese aleatoriu și aproximativ o sută de programe noi și populare. În scopuri de testare, au descărcat fiecare program de pe site-ul dezvoltatorului, nu de pe un portal de descărcare.
Raportul constată că analiza de securitate statistică și bazată pe reputație va bloca sau avertiza adesea despre programe și site-uri cu totul noi. Acesta afirmă: „Deși aceste tehnici de protecție… ajută la scoruri ridicate ale produsului… acest lucru poate duce și la detectarea / blocarea fișierelor și a adreselor URL nevinovate / curate doar pentru că sunt… prea noi." Norton, un susținător puternic pentru acest tip de detecție, nu participă la testarea AV-Comparatives.
Multă îmbunătățire
Mai mult de jumătate din produsele incluse în raportul curent au obținut un punctaj mai bun decât în ediția anterioară a acestui raport. Vipre, McAfee și Fortinet au eșuat ultima dată în urmă, fără să câștige STANDARD, cea mai mică notă de trecere. De data aceasta, Fortinet și McAfee au evaluat ADVANCED și Vipre au ajuns la STANDARD. Toți trei și-au redus ratingul din cauza falselor pozitive; bazat doar pe detectarea McAfee și Fortinet ar fi evaluat ADVANCED +, cel mai mare rating.
eScan a sărit de la STANDARD la ADVANCED +, în timp ce avast!, ESET și Trend Micro s-au mutat de la ADVANCED la ADVANCED +. Câteva alte persoane care au evaluat anterior STANDARD au gestionat o evaluare AVANZATĂ de data aceasta.
Bitdefender câștigă în mod regulat cele mai bune scoruri în cadrul testelor de laborator independente. Bazat doar pe detectarea de malware, ar fi evaluat ADVANCED +, așa cum s-a întâmplat data trecută, dar falsele pozitive au redus-o la ADVANCED. La fel s-a întâmplat și cu F-Secure și BullGuard.
Testul dinamic al întregului produs AV-Comparatives este printre cele mai mari teste pe care le-am întâlnit. Atunci nu este surprinzător faptul că laboratorul se bazează pe sprijinul Universității din Innsbruck și al guvernului austriac. Este multă muncă, dar rezultatul final este un test care aproximează foarte bine cât de bine va proteja un produs pentru utilizatorii din lumea reală.