Internet je skvelý prostriedok, ktorý nás spája, umožňuje nám zdieľať informácie, naše myšlienky a mraky skvelého obsahu, no tak ako asi všetko, aj internet má svoje tienisté stránky. Miesta plné nenávisti, zloby a vecí, proti ktorým sa treba v civilizovanej spoločnosti postaviť, hoci niekedy to pripomína márny boj proti bájnej hydre.
O tom, že zotínať pomyselné hlavy, ktoré okamžite dorastajú, a to v ešte väčšom počte, nie je vôbec ľahké sa presvedčil aj Microsoft so svojim webovým vyhľadávačom Bing.
Portál TechCrunch totiž upozornil, že Bing pri hľadaní, a to aj niektorých úplne nevinných výrazov, vo výsledkoch zobrazuje aj veci hraničiace s detskou pornografiou, prípadne priamo spadajúce do tejto oblasti. Po tom, čo dostal anonymný tip, že cez Bing je relatívne ľahko možné nájsť detskú pornografiu, portál oslovil spoločnosť AntiToxin, ktorá sa venuje bezpečnosti v online svete, a tá to bohužiaľ potvrdila.
AntiToxin vypracoval analýzu s názvom „How Microsoft’s Bing Assists In Searching for Child Pornography“, kde dochádza k záverom, že výsledky vyhľadávania cez Bing pri vypnutí „Bezpečného hľadania“ skutočne obsahujú obrázky, z ktorých musí byť každému jasné, že sa jedná o veci spadajúce mimo hranice zákona – pózovanie čiastočne alebo úplne odhalených neplnoletých osôb, ako aj neplnoleté osoby zapojené do sexuálnych aktivít.
Čo je horšie, Bing tieto obrázky, nie len s pomernou ľahkosťou nájde a používateľovi naservíruje, no kvôli používaným algoritmom, pri vyhľadávaní neškodných slov dochádza k odporúčaniu výrazov, ktorých použitie vo výsledku zobrazí ďalší takto nevhodný obsah.
Situácia je veľmi nebezpečná a pre Microsoft extrémne nepríjemná, nakoľko poodhaľuje, že doteraz používané ochranné mechanizmy nie sú dostatočne efektívne a Bing musí jednoznačne prejsť dodatočnými úpravami.
Portál ďalej skúmal aj to, aká je situácia v prípade velikána medzi vyhľadávačmi – Google, pri rovnakom správaní používateľa. Došiel k záveru, že v tomto prípade sa vo výsledkoch vyhľadávania nenachádzajú veci tak cez čiarku, ani v takom objeme, ako to bolo pri Bingu. TechCrunch posunul všetky potrebné informácie priamo Microsoftu so žiadosťou o vyjadrenie ako k niečomu takémuto vôbec mohlo dôjsť.
„Všetko indexujeme, tak ako to robí aj Google a robíme to najlepšie čo vieme, aby sme obsah analyzovali. Používame kombináciu PhotoDNA a ľudských moderátorov, no to neznamená, že neustále dosiahneme perfektné výsledky. Sme však zaviazaní neustále sa zlepšovať,“ píše sa vo vyjadrení od hovorcu spoločnosti Microsoft.
„Je jasné, že tieto výsledky sú neprijateľné podľa našich štandardov a politík a ceníme si, že TechCrunch nás na problém upozornil. Okamžite sme zakročili a odstránili ich a taktiež chceme zabrániť tomu, aby v budúcnosti došlo k podobným porušeniam pravidiel. Sústredíme sa na to, aby sme sa poučili a zaviedli akékoľvek potrebné úpravy,“ uviedol Jordin Ribas, viceprezident sekcie Bing & AI Products.
Spoločnosť teraz určila špeciálny tím, ktorý má odhalené problémy vyriešiť takpovediac za každú cenu, či už ide o blokovanie takého obsahu, efektívnejšie možnosti ako ho nahlásiť alebo úpravu algoritmov.