Если Хиллер и Исааксон старались в своей системе смоделировать процесс работы композитора-человека, то Ксенакис стремился скорее трансформировать саму музыку, придать её развитию новый импульс при помощи математики и вычислительных машин. Будучи по натуре новатором и бунтарём, он хотел раздвинуть тесные границы музыкальных канонов, поэтому продукты его экспериментов довольно сильно отличаются от результатов, полученных его коллегами из Иллинойса.
Идеи Ксенакиса становятся куда более понятными, если обратиться к его биографии.
Яннис Ксенакис родился в 1922 г. в городе Брэила (Румыния). Он был старшим сыном Клеархоса Ксенакиса, греческого предпринимателя из Эвбеи, и Фотинии Павлу с Лемноса. Мать ещё в раннем детстве познакомила Янниса с музыкой. Её ранняя смерть (Яннису на тот момент было всего пять лет) стала травмирующим опытом, который, по его собственным словам, «оставил глубокие шрамы» в душе будущего композитора [2940]. В 1932 г. Яннис был отправлен в школу-интернат на эгейском острове Спеце, где мальчик среди прочего изучал нотную грамоту и сольфеджио, а также пел в школьном хоре [2941].
В 1938 г., после окончания школы, Ксенакис переехал в Афины, чтобы подготовиться к вступительным экзаменам в Национальный технический университет Афин. Юноша планировал изучать архитектуру и инженерию, однако не оставил и музыку, занимаясь под руководством греческого композитора Аристотелиса Кундурова. В 1940 г. Ксенакис успешно сдал экзамены в университет, однако его учёба вскоре была прервана начавшейся Греко-итальянской войной. Итальянское вторжение началось 28 октября 1940 г., и хотя грекам и удалось его отразить, но после присоединения к нападению немецкой армии в апреле 1941 г. Греция капитулировала и была оккупирована державами «фашистской оси». В годы оккупации Ксенакис участвовал в вооружённом сопротивлении в составе Национально-освободительного фронта Греции (Εθνικό Απελευθερωτικό Μέτωπο, ΕΑΜ).
К концу 1943 г. греческие партизаны контролировали около половины территории страны, а к октябрю 1944 г. в результате их наступательных действий почти вся территория страны была освобождена.
После вывода оккупационных войск Черчилль приказал использовать британские войска для восстановления греческой монархии. Таким образом, греческие партизаны, ещё вчера сражавшиеся с фашистами, теперь сражались с британскими войсками. Ксенакис в составе отряда студентов-коммунистов «левой фракции имени лорда Байрона» в Народно-освободительной армии Греции (Ελληνικός Λαϊκός Απελευθερωτικός Στρατός, ΕΛΑΣ) участвовал в уличных боях с британскими танками. В ходе этих боёв он был тяжело ранен — осколок снаряда изуродовал его щёку и левый глаз, который навсегда перестал видеть.
Несмотря на все выпавшие на его долю невзгоды и перебои в работе университета, Ксенакис в 1947 г. всё же смог получить диплом специалиста в области гражданского строительства. Примерно в то же время правительство начало аресты бывших членов Сопротивления, придерживавшихся левых взглядов. Ксенакис, опасаясь за свою жизнь, был вынужден бежать из страны. В конце 1947 г. он прибыл в Париж. В одном из поздних интервью Ксенакис признался: «Годами меня мучило чувство вины за то, что я покинул страну, за которую воевал. Я оставил своих друзей — одни сидели в тюрьме, другие умерли, некоторым удалось сбежать. Я чувствовал, что я в долгу перед ними и что я должен вернуть этот долг. И я чувствовал, что у меня есть миссия. Мне нужно было сделать что-то важное, чтобы вернуть себе право на жизнь. Это был не просто вопрос музыки — это было нечто гораздо более важное». В Греции Ксенакиса заочно приговорили к смертной казни. Этот приговор был заменён на десять лет тюремного заключения в 1951 г. и отменён лишь спустя 23 года, после падения режима «чёрных полковников» в 1974 г. [2942], [2943]
В 1947–1959 гг. Ксенакис работал в студии архитектора Ле Корбюзье, участвовал в нескольких проектах, самый значительный из которых — павильон «Электронная поэма» фирмы Philips на Всемирной выставке 1958 г. в Брюсселе. Параллельно с работой у Корбюзье Ксенакис продолжал своё музыкальное образование. В 1948–1950 гг. он брал уроки у Артюра Онеггера и Дариюса Мийо, а в начале 1950-х прослушал курсы музыкальной эстетики и анализа музыкальных форм в Парижской консерватории в классе уже знакомого нам Оливье Мессиана. В 1955–1962 гг. Ксенакис работал в основанной Пьером Шеффером студии электронной музыки, а в 1966 г. основал в Париже Группу математики и автоматики музыки (Equipe de Mathématique et d’Automatique Musicales), ставшую с 1972 г. Центром изучения математики и автоматики музыки (Centre d’Etudes Mathématiques et Automatique Musicales).
Благодаря своим успехам Ксенакис стал одним из лидеров музыкального авангардизма второй половины XX в. В стохастических системах, созданных Ксенакисом, роль «языковой модели» выполняли различные алгоритмы. Например, для сочинения «Аналогии А/В» (Analogique A Et B, 1959) применялись марковские цепи, для «Атрея» (Atrées, 1962) — алгоритм, основанный на распределении Гаусса, для «Пифопракты» (Pithoprakta, 1956) — основанный на распределении Максвелла и так далее. Помимо музыкальных композиций, Ксенакис создавал также аудиовизуальные [2944]. Если Хиллер и Исааксон стремились полностью передать творческий процесс машине, то у Ксенакиса машина обычно выступает в роли умного инструмента композитора, его алгоритмического соавтора [2945].
Со времён первых экспериментов в области автоматизации музыкальной композиции было создано множество различных моделей и систем, обычно относящихся или к стохастическому подходу, или к подходу, основанному на правилах, при этом в конкретных системах эти два подхода вполне могли сочетаться. Например, стохастические модели могли использоваться для создания «исходных материалов» в системах, использующих правила. Однако в целом прогресс был достаточно скромным. По крайней мере, музыке, сочинённой машинами, не удалось завоевать ни какую-то особую массовую популярность, ни сердца музыкальных критиков. Прогресс в этом направлении наметился на заре эры глубокого обучения. Вполне ожидаемым стало то, что заметный шаг вперёд в области глубоких генеративных музыкальных моделей удалось сделать при помощи LSTM-сетей.
Надо отметить, что первые попытки использовать рекуррентные нейронные сети для генерации музыки были предприняты ещё в конце 1980-х гг. Однако музыкальные произведения, сочинённые «ванильными» (стандартными) RNN, страдали от отсутствия глобальной структуры: хотя такие сети хорошо «схватывали» краткосрочные зависимости — выучивали вероятности перехода от одной ноты к другой и даже воспроизводили небольшие музыкальные фразы, но попытки освоить крупномасштабную структуру произведений (музыкальную форму) и использовать эти долгосрочные зависимости для управления композицией оказались безуспешными. Причина этих неудач заключалась, по всей видимости, в том, что классические архитектуры RNN не были способны устанавливать связь между отдалёнными по времени событиями, составляющими глобальную музыкальную структуру. Это было типичной проблемой RNN в различных областях применения, и LSTM была архитектурой, предназначенной для компенсации именно этой слабости рекуррентных сетей.
В 2002 г. Дуглас Экк и Юрген Шмидхубер опубликовали работу под названием «Первый взгляд на музыкальную композицию с использованием рекуррентных нейронных сетей LSTM» (A First Look at Music Composition using LSTM Recurrent Neural Networks) [2946]. Авторы использовали довольно простое представление музыки: каждой восьмой доле соответствовал вектор размерностью 25 (13 позиций в нём соответствовали нотам мелодии, а 12 — нотам аккорда). В каждой позиции вектора значение 1 соответствовало звучанию соответствующей ноты (0 — отсутствию звучания). Этот способ представления данных напоминает механизмы хранения мелодии, применяемые в механических пианино (пианолах). В конце XIX — начале XX в. появились пианолы, клавиши которых управлялись при помощи бумажных перфорированных лент. Отверстие в определённой позиции очередного ряда ленты соответствовало нажатию соответствующей клавиши пианолы. Поэтому представление музыки в виде последовательности векторов, состоящих из нулей и единиц, обычно так и называют — ролики для пианолы [piano roll].
