Сеул (CNN) — впервые за 25 лет отличительный вокал южнокорейской суперзвезды Ким Кван Сок будет услышан по национальному телевидению, исполняющему новый материал.
Этот подвиг тем более необычен, что знаменитый народный певец мёртв.
Национальный вещатель SBS планирует использовать искусственный интеллект (ИИ), чтобы вернуть голос Кима к жизни в новой программе «конкурс века: ИИ против человека», который выйдет в эфир позже на этой неделе.
Это не первый случай, когда искусственный интеллект используется для оживления известного певца в Южной Корее.
В декабре музыкальный канал Mnet выпустил в эфир «ещё раз» — шоу, в котором использовались искусственный интеллект и голограммы покойных артистов, чтобы отдать дань уважения их творчеству.
А в канун Нового года K-Pop superstars BTS выступила в интернете с ИИ-версией певицы шин Хэ-Чхоль, которая умерла после операции в 2014 году.
Недавние выступления ИИ взволновали поклонников их музыки и технологии, но тут подняли озабоченность по поводу этики и законности воскрешения голосов мёртвых. Создание ИИ новых произведений — или оживших голосов — также поднимает вопросы авторского права. Кто считается владельцем? Создатель программы искусственного интеллекта или сама система искусственного интеллекта?
Легендарный корейский певец
Ким было всего 31 год, когда он умер в 1996 году на пике своей карьеры после серии хитов, включая «письмо от частного лица», «песня моей жизни» и «в пустыне».»
Его смерть считалась настолько шокирующей, что некоторые никогда не признавали официальной причины самоубийства, вместо этого предпочитая верить теориям заговора, что он был убит.
Спустя десятилетия поклонники по-прежнему собираются на улице, названной в его честь рядом с домом его детства в городе Тэгу, хотя в этом году трибуты в основном проводились онлайн из-за пандемии коронавируса.
Фрески художника пристально смотрят на улицу, где туристы сидят на скамейках в форме гитар и слушают музыкантов, играющих его лучшие хиты.
Поэтому, когда национальная телекомпания SBS объявила, что использует искусственный интеллект для воссоздания голоса Кима в новой программе, выходящей в эфир в этом месяце, это привело фанатов в бешенство.
Одноминутный рекламный клип Ким поёт «Я скучаю по тебе», балладу, выпущенную Ким Бум Су в 2002 году, был просмотрен более 145 000 раз на YouTube с декабря. А видео, показывающее процесс, стоящий за этим эпизодом, было просмотрено более 750 000 раз с тех пор, как оно было опубликовано 6 января.
«Восстановленный голос звучит очень похоже на него, как будто Ким записал его живьём»,-сказал Ким Чжоу Ен, поклонник Кима в течение 30 лет.
Шоу, вдохновленное матчем Go
Продюсер SBS Нам Санг-Мун сказал, что идея о соревновании ИИ против человека пришла к нему после того, как он наблюдал, как чемпион мира Ли Се-дол взял на себя южнокорейскую программу ИИ HanDol в Древней стратегической игре Go в 2019 году.
Удивительно, но Ли выиграл один из трех их матчей.
Всего за месяц до этого Ли объявил о своем уходе из профессионального конкурса Go, заявив, что AI-это «сущность, которую невозможно победить.»
Go требует, чтобы два игрока разместили черные и белые камни на сетке 19 на 19. Каждый участник пытается претендовать на большую территорию, окружая фигуры своего противника, чтобы они были удалены с доски.
Игра Ли против Хандола напомнила Нам о более раннем матче Ли против AlphaGo, программы искусственного интеллекта, разработанной Google DeepMind, в 2016 году. В тот раз AlphaGo выиграл четыре из пяти игр, а позже Ли сказал, что он «недооценил» возможности машины.
«Ли-АльфаГо был большим шоком, за которым последовал короткий, но огромный интерес к ИИ, который все еще разрабатывается где-то, но мы еще не знакомы с ним», — сказал продюсер SBS нам в телефонном интервью.
Нам почувствовал, что корейская публика готова к обновлению, и начал собирать серию из шести частей AI competition, включая выступление AI от покойного Ким Кван Сок.
Воссоздание Кима
Компания audio AI, стоящая за реинкарнацией голоса Кима, — это Supertone, южнокорейский стартап, основанный в 2020 году, который предоставляет решения AI audio для создателей контента, по словам соучредителя и главного операционного директора Choi Hee-doo.
«Например, BTS действительно занята в эти дни, и было бы жаль, если бы они не могли участвовать в контенте из-за нехватки времени. Так что, если BTS использует нашу технологию при создании игр или аудиокниг или озвучивании анимации, например, им не обязательно будет записывать лично», — сказал Чой.
Технология синтеза певческого голоса Supertone (SVS) учит голоса, слушая несколько песен с соответствующими нотами и текстами, объяснил Чой.
Система выучила 100 песен 20 певцов, прежде чем ей дали выучить 10 песен Ким Кван Сок. Теперь он знает его голос достаточно хорошо, чтобы подражать уникальному стилю и произношению певца, сказал Чой.
В шоу SBS Ай Ким не будет соревноваться с человеком-певцом, он будет петь дуэтом с одним из них. «Мы оживили Ким Кван Сок, чтобы показать его возможности», — сказал продюсер шоу.
Вместо этого Ок Чжу Хен, бывший лидер-вокалист девичьей группы Fin. K.L, возьмёт на себя машину искусственного интеллекта. Точно так же, как система искусственного интеллекта выучила голос Ким, она будет обучена подражать ей.
В то время как некоторые могут рассматривать конкуренцию между певцом ИИ и человеком как безвредную забаву, другие предупреждают, что технология создаёт угрозы, которые должны быть устранены более строгими руководящими принципами и правилами.
Потенциальные опасности искусственного интеллекта
Технологически подкованная Южная Корея считается на переднем крае технологий искусственного интеллекта, но есть призывы к большему регулированию.
В течение нескольких дней после запуска петиции на прошлой неделе более 376 000 человек поставили свои подписи под призывами к ужесточению наказания для создателей видео deepfake, особенно тех, которые используют лица женщин-знаменитостей для порнографии.
Амстердамские исследователи Deeptrace насчитали более 14 000 видео deepfake онлайн в 2019 году и обнаружили, что почти все они — 96% — были неконсенсусной порнографией deepfake с использованием изображений женщин-знаменитостей, многие из которых были из Южной Кореи.
Тиражирование чьего-либо голоса также создаёт серьезные риски, особенно если фальшивый звук используется в кампаниях дезинформации и мошенничества. В 2019 году мошенники убедили руководителя перевести сотни тысяч долларов наличными на счет, подделав голос своего босса с помощью аудиопрограмм.
«Каждый год мы видим около 470 миллионов долларов убытков от мошенничества, в том числе от банковских переводов и телефонных мошенничеств. Это огромный масштаб», — сказал в прошлом году CNN Виджай Баласубраманиян, генеральный директор и соучредитель Pindrop.
Во всём мире страны и организации призывают к правовой реформе, этическим принципам и социальным соглашениям, чтобы предотвратить злоупотребление ИИ.
ЮНЕСКО совместно со своими 193 государствами-членами работает над созданием этических основ регулирования этой технологии. В сентябре прошлого года она опубликовала проект своей «рекомендации по этике искусственного интеллекта».» Ожидается, что окончательный доклад будет представлен Генеральной конференции ЮНЕСКО в конце этого года.
В декабре Министерство науки и информации и коммуникационных технологий Южной Кореи опубликовало «Национальное этическое руководство по ИИ» — документ, в котором излагаются основные стандарты для людей, участвующих в разработке и применении ИИ. В нём говорится, что ИИ должен » разрабатываться и использоваться в соответствии с его целью и намерением в качестве инструмента для человеческой жизни, и этот процесс также должен быть этическим.»
В том же месяце министерство опубликовало то, что оно называет дорожной картой для законодательства об ИИ, в которой предлагается расширить права интеллектуальной собственности Южной Кореи за пределы произведений, созданных людьми, до инвесторов и изобретателей, стоящих за созданием ИИ.
Главный технический директор Supertone Хео Хун сказал, что он поддерживает законы, регулирующие эту отрасль. Он сказал, что для снижения текущих рисков компания не имеет прямого дела с общественностью, предпочитая работать с компаниями, которые разделяют ее этику.
«Мы чётко осознаем возможность неправильного использования нашей технологии, когда она находится в руках общественности», — сказал Хео. «Я думаю, что оживление голоса умершего вызовет негативную реакцию, которая, как мы надеемся, начнёт социальные дебаты и окончательно приведёт к принятию законодательства.»
Компания встроила уровень защиты в свои записи, помечая звук как произведенный ее ИИ, хотя случайные слушатели вряд ли знают об этом.
«У нас есть технология водяных знаков, которая представляет собой информацию, заложенную в аудио, которая не может быть услышана, но отслеживает, где она была сделана и как она распространяется», — сказал Хео.
Вопросы собственности
Использование искусственного интеллекта для создания произведений, традиционно создаваемых человеческим творчеством, поднимает вопрос о собственности. Если ИИ создает произведения, то имеет ли программа авторские права или она принадлежит программисту?
Юрист ко Хван-ген, эксперт в области искусственного интеллекта и защиты данных, сказал, что этот вопрос необходимо решать по мере того, как искусственный интеллект становится всё более продвинутым.
«Что интересно в ИИ, так это то, что он развивается до уровня, когда он может писать и сочинять, изучая данные», — сказал Ко.
В прошлом году певица Хэйон выпустила сингл «Eyes on You», написанный программой искусственного интеллекта. Продюсеры позже усовершенствовали песню, согласно её лейблу enterarts.
В других странах искусственный интеллект использовался для создания новостей, книг и даже произведений искусства. Как правило, создатель считается владельцем произведения, но в случае с ИИ это менее ясно.
— Признаем ли мы ИИ юридическим лицом, обладающим такой же правосубъектностью, как и люди, и предоставим ли авторские права?» — Спросил адвокат ко. «Нам нужно необходимое регулирование, которое гарантирует безопасность человека, а не чрезмерное, которое препятствует развитию технологий искусственного интеллекта».
В случае с Ким Кван Сок продюсер нам сказал, что SBS получила согласие семьи Кима на воспроизведение его голоса, прежде чем продолжить шоу.
SBS заплатила одноразовый гонорар его семье за то, что он показал голос в шоу, как они это делали с другими актёрами. Части шоу будут опубликованы на YouTube после его выхода в эфир, но ни SBS, ни Supertone не планируют выпускать песню Ким в качестве сингла.
«Мы договорились не выпускать официально песни, представленные в шоу», — сказал Цой Supertone.
Так что пока поклонникам Ким придётся довольствоваться воспроизведением старых песен, записанных настоящим певцом у микрофона более 20 лет назад.
Спонсоры статьи: