Технология выбора информативных признаков для анализа данных иммуносигнатур

Введение

В 2018 г. в России пациентов, у которых впервые в жизни диагностировали онкологическое заболевание, насчитывалось 624 тыс. человек: I стадии — 30,6%, II — 25,8%, III — 18,2%, IV — 20,3%. Смертность в России от онкологических заболеваний за 2018 г. составила более 293 тыс. человек. В то же время за последние 5 лет не наблюдается статистически значимого изменения абсолютного числа умерших от злокачественных новообразований [1].

Эффективность лечения онкологических заболеваний напрямую зависит от своевременной диагностики. Для раннего их выявления нужны эффективные и специфичные, удобные в применении, приемлемые для пациентов и недорогие методы диагностики [2]. Одним из перспективных является технология иммуносигнатурного (immunosignature) анализа, основанная на идее профилирования антител человека [3]. В основе данной технологии — микрочип, представляющий собой набор пептидов со случайными аминокислотными последовательностями, которые при взаимодействии с сывороткой крови человека дают карту иммунной активности. Пептидные микрочипы разнообразны и содержат от 10 тыс. до 330 тыс. пептидов.

На данный момент для анализа и интерпретации данных, полученных посредством технологии иммуносигнатурного анализа, активно исследуется применимость различных методов интеллектуального анализа и классификации данных. Для построения эффективных моделей классификации исследователи нуждаются в релевантных и высококачественных данных. В связи с тем, что признаковое пространство основано на случайно созданных пептидах, не все признаки будут информативными, поэтому их отбор является одним из важнейших этапов анализа данных. При отбрасывании бесполезных и избыточных признаков не только улучшается производительность модели, но и облегчается ее интерпретация [4]. В связи с этим в каждой статье по исследованию данных иммуносигнатурного анализа так или иначе присутствует этап отбора информативных признаков.

В работе [5] рассматривается применимость иммуносигнатурного анализа для выявления четырех различных заболеваний поджелудочной железы (рак и предраковое состояние, диабет 2-го типа и панкреатит). На ранней стадии эти заболевания имеют одинаковые симптомы, что усложняет их диагностику. Авторы применяли t-критерий Стьюдента с целью отбора лучших признаков для дальнейшего анализа. Средняя точность классификации достигала 92%. В то же время было выявлено, что каждая болезнь обладает уникальными иммунологическими характеристиками.

Авторы исследования [6] демонстрируют, что технология иммуносигнатурного анализа потенциально может соответствовать требованию универсального теста для диагностики онкологических заболеваний. Проведен интеллектуальный анализ двух наборов данных 6-го и 15-го классов. В результате экспериментально показано, что с помощью иммуносигнатурного анализа возможно разделить различные типы заболеваний с высокой точностью. Для отбора информативных признаков использовали U-test.

В работе [7] рассматривались возможности применения технологии иммуносигнатурного анализа на примере микрочипа с 330 тыс. пептидов для диагностики рака молочной железы. Основная идея исследования заключалась в использовании метода проекции на латентные структуры для выявления эффективной размерности данных. Это должно уменьшить негативный эффект от переобучения модели и улучшить качество распознавания объектов. Данный подход противоречит основной идее иммуносигнатурного анализа, направленного на поиск возможных антигенов для различных заболеваний. После применения метода проекции на латентные структуры происходит трансформация исходного признакового пространства в новое пространство латентных структур. В связи с этим становится невозможной какая-либо интерпретация признакового пространства в контексте взаимодействия «антиген–антитело». В качестве противовеса проекции на латентные структуры рассматривается применение U-test для отбора лучших признаков, что повторяет исследователей из предыдущей статьи.

Применение статистических критериев для отбора информативных признаков является примером использования методов фильтрации. Для этих методов характерны такие проблемы, как неочевидность выбора порога для отсечения неинформативных признаков и сохранение избыточности признакового пространства. Анализ данных с избыточным числом признаков в общем случае требует большой памяти и вычислительной мощности, а также способен вызвать такой нежелательный эффект, как переобучение модели классификации [8]. В то же время никак не учитывается природа возникновения данных, что может приводить к неочевидным ошибкам.

Цель исследования — разработка и апробация технологии эффективного снижения размерности данных иммуносигнатурного анализа, которая обеспечивает высокое, практически значимое качество классификации.

Материалы и методы

В исследовании использовались два нормализованных набора данных из публичного хранилища биомедицинских данных GSE52580 и GSE52581, содержащих результаты иммуносигнатурного анализа пациентов с различными онкологическими и инфекционными заболеваниями, а также контрольной группы здоровых лиц [9, 10]. Предварительно наборы данных подверглись операции транспонирования, чтобы соответствовать формату tidy data [11]. Итоговые материалы представляют собой набор данных (таблицу) значений интенсивности флуоресценции пептидов, где названия пептидов являются столбцами (признаками), а метки классов — строками (экземплярами).

Набор данных GSE52580 имеет следующие характеристики:

количество экземпляров — 240;

количество признаков — 9787;

количество классов — 6.

Количество экземпляров каждого класса в наборе данных GSE52580 одинаково.

Набор данных GSE52581 имеет следующие характеристики:

количество экземпляров — 1416;

количество признаков — 10 372;

количество классов — 15.

Количество экземпляров каждого класса в этом наборе различно (табл. 1).

---

Таблица 1. Описание набора данных GSE52581

---

Описание технологии. В рамках исследования предложена технология отбора информативных признаков, состоящая из трех последовательных шагов:

1) разбиение многоклассовой задачи на ряд бинарных задач с использованием стратегии «один против всех»;

2) выполнение для каждого бинарного сравнения отсева ложно-информативных признаков с помощью сравнения значений медианы множеств «один» и «все»;

3) ранжирование оставшихся признаков по информативности и отбор лучших из них для каждого бинарного сравнения.

Первый этап технологии: применение стратегии «один против всех». В контексте отбора информативных признаков многоклассовые задачи раскладываются на несколько бинарных задач с помощью стратегии «один против всех» или «один против одного» с последующим отбором лучших признаков по каждому бинарному сравнению [12]. В данном исследовании будет использоваться стратегия «один против всех». Данный выбор объясняется особенностью технологии иммуносигнатурного анализа, заключающейся в имитации антигенов заболеваний с помощью пептидов случайной аминокислотной последовательности. Цель анализа на данном этапе — найти пептид, который выполняет роль антигена определенного заболевания, т.е. антитела, выработанные против искомого заболевания, связываются с данным пептидом, в то время как для пациентов из групп с другим диагнозом этого не происходит.

Второй этап технологии: медианный фильтр. Методы фильтрации — это методы ранжирования признаков, которые оценивают их релевантность, рассматривая внутренние свойства данных [13]. После ранжирования происходит удаление признаков, чьи оценки информативности находятся ниже порогового значения. Результирующее подмножество признаков используется для дальнейшего анализа данных (например, классификации посредством методов машинного обучения). Методы фильтрации легко масштабируются для высокоразмерных данных и не обладают высокой вычислительной сложностью, но большинство из них применимы только к бинарным задачам и рассматривают каждый признак отдельно, игнорируя при этом зависимости признаков, что может привести к ухудшению последующего анализа данных.

Первый фильтр представляет собой сравнение значений медианы по каждому признаку для множества «один» и множества «все». Смысл данного фильтра заключается в удалении из набора данных всех признаков, у которых значение медианы интенсивности флуоресценции множества «один» меньше медианы интенсивности флуоресценции множества «все», так как они признаны неинформативными. Причина этой неинформативности проиллюстрирована на примере двух признаков из набора данных GSE52580 (рис. 1).

---

Рис. 1. Сравнение информативного (пептид CSGTMNSEFQNTTRHVYIMS) (а) и ложно-информативного (пептид CSGVFMLSHHQFHPSWYQPN) (б) признаков для класса «рак пищевода»

---

Если рассматривать два этих признака в отрыве от предметной области, то они оба будут информативными для отделения класса «рак пищевода» от всех остальных. Однако в случае, когда распределение интенсивности флуоресценции класса «рак пищевода» находится правее всех остальных классов, это означает, что антитела из крови пациентов с диагнозом «рак пищевода» соединялись с пептидом в большем количестве, чем в остальных представленных классах (рис. 1, а). Случай же, когда распределение интенсивности флуоресценции находится левее всех остальных классов, будет означать, что к данному пептиду присоединялись антитела всех классов, включая «здоровые», исключая класс «рак пищевода» (рис. 1, б). Это значит, что зафиксированы антитела, выработанные на какое-либо другое заболевание, которое как-то объединяет людей этих групп, и оно никак не связано с диагнозом «рак пищевода». Во всех рассмотренных нами более ранних исследованиях по иммуносигнатурному анализу данный аспект никак не освещался и оба варианта признаков использовались в качестве информативных. В свою очередь, для объектов класса «здоровые» вообще не существует информативных признаков, фактически это исключения, не попавшие ни в один другой класс.

Третий этап технологии: ранжирование и отбор признаков. В качестве второго фильтра для оценки признаков используется критерий symmetric uncertainty (SU). Этот критерий оценки корреляции между и признаками и целевой переменной является улучшенной версией критерия information gain [14]. Значения SU находятся в диапазоне [0; 1], где 0 означает полное отсутствие корреляции и, как следствие, — нерелевантность признака.

где IG(X; Y)=H(X)–X(X|Y) — information gain для признака и метки класса Y; H(X) — энтропия признака X; H(Y) — энтропия признака Y.

Следующим шагом является выбор подмножества информативных признаков. С этой целью для каждого бинарного сравнения выбираются лучшие признаки на основе оценок метода SU.

Оценка эффективности отбора информативных признаков. Основная задача иммуносигнатурного анализа — диагностика заболеваний, что в терминах анализа данных является задачей классификации. В связи с этим для оценки качества предложенной технологии отбора информативных признаков используются результаты классификации по полученным данным после ее применения.

Существует множество различных методов классификации, которые могут использоваться для решения данной задачи. Рассмотрим метод машинного обучения, который ранее уже показал высокую эффективность в предыдущих исследованиях [15], — метод опорных векторов (support vector machine, SVM), основанный на построении гиперплоскости, максимально разделяющей классы между собой [16]. В зависимости от настроек ядра модели возможно построение разделяющих поверхностей различного рода. Не существует общего подхода к автоматическому выбору ядра, в связи с чем в данном исследовании оценивается эффективность каждого из них.

Также в линейных моделях (например, SVM) нужно стандартизировать признаки. Это необходимо сделать в связи со следующим обстоятельством. Одно из наиболее важных допущений при работе с линейными моделями, параметры которых оцениваются методом наименьших квадратов, состоит в том, что остатки модели независимы (т.е. не коррелируют) и имеют нормальное распределение со средним значением 0 и некоторым фиксированным стандартным отклонением (например, 1). В связи с этим в данном исследовании проведена стандартизация признаков по следующей формуле:

где X_i — индивидуальное значение по признаку; — среднее значение по признаку, σ — стандартное отклонение по признаку.

Известно множество различных метрик оценки качества классификации, которые подходят для представленной задачи. В данном исследовании будут использоваться precision, recall, balanced accuracy и F1-score [17], это обусловлено целями анализа: необходимо максимально эффективно отделить группу людей с определенным заболеванием от всех остальных, а представленные метрики как раз позволяют это измерить. Они будут вычисляться для каждого бинарного сравнения «один против всех», где «один» — позитивный класс, а «все» — негативный класс.

Экспериментальные исследования. В связи с небольшим количеством образцов в наборе данных необходимо провести анализ с применением перекрестной проверки. Таким образом, исходный набор данных разбивается на 5 приблизительно равных частей с соблюдением пропорции классов. На каждой итерации 4 части образуют тренировочную выборку (train), а 5-я — тестовую выборку с последующей сменой. На каждой итерации производятся поиск информативного множества признаков на основе train и его оценка с помощью тестовой выборки. Далее приводится описание одной итерации перекрестной проверки.

1. Оценка информативности признаков в train с помощью метода SU и применения стратегии «один против всех».

2. Обращение в 0 оценок ложно-информативных признаков по результатам фильтрации на основе сравнения медиан.

3. Отбор Nлучших признаков для каждого бинарного сравнения, пока не будут достигнуты приемлемые результаты классификации.

4. На основе полученного подмножества признаков проведение обучения SVM на train и оценка качества классификации на тестовой выборке.

5. Оценка полученных результатов.

Вся работа выполнена с использованием языка программирования R и библиотек из публичного репозитория CRAN и Bioconductor.

Результаты

В первую очередь рассмотрим результаты экспериментов по оценке эффективности различных ядер SVM и отбору информативных признаков предложенной технологией для набора данных GSE52580. На рис. 2 представлены результаты классификации для каждого ядра SVM по метрике macro-average F1-score.

---

Рис. 2. Результаты классификации для различных ядер SVM в зависимости от количества лучших признаков (набор GSE52580)

---

Из информации, представленной на рис. 2, видно, что наилучшие результаты показывают линейное, сигмоидальное и радиально-базисное ядро, однако линейное ядро многократно превосходит по производительности аналоги. В связи с этим в дальнейшем будем использовать только линейное ядро.

На рис. 3 представлены результаты классификации с использованием SVM (линейное ядро) по метрике F1-score в зависимости от количества отобранных лучших признаков для каждого класса.

---

Рис. 3. Результаты классификации для каждого класса в зависимости от количества лучших признаков (набор GSE52580)

---

На рисунке отчетливо видно, что наилучшие результаты достигаются при выборе трех лучших признаков для каждого класса, кроме «здоровых» (для объектов класса «здоровые» не существует информативных признаков, фактически это исключения, не попавшие ни в один другой класс), что в сумме означает всего 15 признаков для 6 классов.

В табл. 2 представлены результаты классификации на тестовой выборке с использованием только трех лучших признаков для каждого заболевания. Значения в таблице — это различные метрики оценки качества, усредненные по перекрестной проверке. Представленные в таблице оценки качества классификации свидетельствуют о разделимости классов, несмотря на значительное сокращение признакового пространства.

---

Таблица 2. Результаты классификации на тестовой выборке по трем лучшим признакам для каждого заболевания

---

Теперь рассмотрим результаты экспериментов по оценке эффективности различных ядер SVM и отбору информативных признаков предложенной технологией для набора данных GSE52581. На рис. 4 представлены результаты классификации для каждого ядра SVM по метрике macro-average F1-score.

---

Рис. 4. Результаты классификации для различных ядер SVM в зависимости от количества лучших признаков (набор GSE52581)

---

На рисунке отчетливо видно преимущество линейного ядра над другими, в связи с этим в дальнейшем анализе данного набора используется только оно.

На рис. 5 представлены результаты классификации по метрике F1-score в зависимости от количества отобранных лучших признаков для каждого класса.

---

Рис. 5. Результаты классификации для каждого класса в зависимости от количества лучших признаков (набор GSE52581)

---

В табл. 3 представлены результаты классификации на тестовой выборке с использованием только 19 лучших признаков для каждого класса, кроме «здоровых» (для объектов класса «здоровые» не существует информативных признаков, фактически это исключения, не попавшие ни в один другой класс). Значения в таблице — это различные метрики оценки качества, усредненные по перекрестной проверке. Отчетливо видно, что для подавляющего большинства классов достигнуто высокое качество классификации, несмотря на значительное сокращение признакового пространства.

---

Таблица 3. Результаты классификации на тестовой выборке по 19 лучшим признакам для каждого заболевания

---

Полученные результаты клас­­сификации соответствуют пред­шествующим исследованиям в дан­ной области, однако ключевым аспектом работы является отсутствие ложно-информативных признаков в итоговом признаковом пространстве, что ранее не учитывалось. Это положительно повлияет на последующий анализ и поиск антигенов для различных заболеваний.

Заключение

Основной сложностью практической работы с данными, полученными посредством иммуносигнатурного анализа, является высокая размерность и наличие значительного числа неинформативных или ложно-информативных признаков в связи с особенностью технологии. Для обеспечения практически значимого качества классификации необходимо учитывать эти особенности. Представленная технология отбора информативных признаков позволяет обеспечить высокие оценки качества классификации при значительном сокращении признакового пространства.

Количество признаков, отсеянных на втором шаге технологии (являющихся ложно-информативными), составляет примерно 50% для каждого из рассмотренных наборов данных, что в значительной степени упрощает последующий их анализ. После третьего шага для набора данных GSE52580 при сокращении признакового пространства до 15 признаков оценка качества классификации по метрике macro-average F1-score составляет 98,9%. Для набора данных GSE52581 при сокращении признакового пространства до 266 признаков оценка качества классификации по этой метрике составляет 91,3%.

Результаты работы демонстрируют перспективность предложенной технологии для отбора информативных признаков применительно к данным иммуносигнатурного анализа.

Финансирование исследования. Работа не получала финансовой поддержки.

Конфликт интересов отсутствует.