Всяка ера има своите призиви - добре звучащи лозунги, които представят определени факти по един кратък начин. Фразите обещават много, но често по-скоро звучат добре, отколкото са съдържателни.   Понякога една такава вълшебна дума автоматично добавя стойност. Когато производителят на напитки  Long Island Ice Tea например промени в края на миналата година името си на Long Blockchain, цената на акциите скочи с почти 500%. Пътят от Buzzword до Bullshit често не е много дълъг.   Е, днес в Силициевата дума подобен лозунг е терминът "изкуствен интелект". Facebook и Alphabet винаги досега изтъкваха тази технология като панацея: Фалшиви новини, избирателната манипулация, омраза и пропаганда – машините ще се справят с това, по-голяма доза технология ще помогне повече. Но всичко това е подвеждащо донякъде. Машините откриват далеч по-ненадеждно проблематичното съдържание, отколкото хората претендират.   В същото време дори Facebook признава, че редовно намира материал, който е бил пренебрегнат от машините. Компанията вярва, че изкуственият интелект е най-доброто средство за повишаване на сигурността на общността във Facebook, каза през миналата седмица главният технологичен директор на компанията Майк Шрьопфер по време на конференцията на разработчиците F8. Но той признава: "Все още имаме много работа“. Шрьопфер идентифицира проблема на цяла една индустрия. И Alphabet се справя по-скоро зле, отколкото добре със злоупотребата във видеоканала YouТube. След като рекламодателите бойкотираха платформата през миналия март, мрежата обеща да се подобри. Но едва наскоро реклами на 300 клиента като Amazon, Adidas и Nordstrom, се появиха до нацистка пропаганда и педофилско съдържание.

Проблемът бе причинен от самата индустрия. Тя повярва твърде много на силата на алгоритмите. Машините все повече определят кое съдържание да се появява в информационната емисия на Facebook или какво да пуска YouTube. Манипулациите са буквално предварително програмирани.

Днешните разисквания относно пропагандата, коментарите на омразата и злоупотребата с данни са в най-добрия случай предвестник на бъдещия напълно автоматизиран свят. Консултантската компания McKinsey изчислява, че изкуственият интелект може скоро да генерира по 5,8 трилиона долара годишно. Коя компания иска да пропусне това? Технологията открива огромни шансове, но трябва да оценим по-реалистично нейните възможности.

Машините на Youtube са открили шест милиона проблемни видеоклипа през четвъртото тримесечие, преди да ги е видял даден потребител. Успехът е забележителен, но и изчерпателно малък, като се има предвид потока от един милиард часа видео, които потребителите консумират всеки ден в мрежата.

Според мениджъра на Facebook Мат Файзли компютърните алгоритми все още са "в първи клас", ще се отнася до анализа на движещи се изображения. Дори тогава, когато на фона на потока от видеоклипове, снимки, коментари и публикации във Facebook е малко вероятно да минем без поддръжка от страна на машините, скептицизмът е голям.

Алгоритмите дават добри резултати при търсене на конкретни ключови думи или изрази. Но за по-задълбочено разбиране машината няма човешките познания и разбирания. Тя се проваля при изрази на ирония, сарказъм, двусмислен контекст или обща езикова динамика. Тонът на говорене във Facebook и Youtube е неформален, наситен с жаргон, правописни грешки, нови думи. Машината не разбира всичко това.

Във Facebook и YouTube има и хора, които вземат отношение за съдържанието. До края на годината главният изпълнителен директор на Facebook Марк Зукърбърг ще увеличи броя на това подразделение до 20 000 души. Но на конференцията за разработчици мрежата представи основно технически решения.

 

За да тренира машините си, Facebook посяга към Instagram - съкровище за милиарди снимки и ценни набори от данни - учебен материали за жадните за данни алгоритми. Разпознаването на изображението се прави от потребителите, които етикетират снимките и им предоставят маркери и хаштагове. За Facebook това разпределение на работата е практично.

Стратегията обаче вече предизвиква следващия дебат за неприкосновеността на личния живот. Качеството на изкуствения интелект зависи от информацията, на която е обучен. Данните са смазочни материали за софтуера. Facebook или Google, както и всяка друга фирма с бизнес модел, задвижван от данните, изискват подобно захранване. Затова спорното събиране на лични данни ще продължи.

По статията работиха: Бойчо Попов, редактор Елена Илиева