Задача о расстоянии Дамерау-Левенштейна

Определение:

Расстояние Дамерау — Левенштейна (Damerau — Levenshtein distance) между двумя строками, состоящими из конечного числа символов — это минимальное число операций вставки, удаления, замены одного символа и транспозиции двух соседних символов, необходимых для перевода одной строки в другую.

Является модификацией расстояния Левенштейна, отличается от него добавлением операции перестановки.

Расстояние Дамерау — Левенштейна является метрикой. (Предполагаем, что цены операций таковы, что выполнено правило треугольника: если две последовательные операции можно заменить одной, то это не ухудшает общую цену.)

Практическое применение

Расстояние Дамерау — Левенштейна, как и метрика Левенштейна, является мерой "схожести" двух строк. Алгоритм его поиска находит применение в реализации нечёткого поиска, а также в биоинформатике (сравнение ДНК), несмотря на то, что изначально алгоритм разрабатывался для сравнения текстов, набранных человеком (Дамерау показал, что 80% человеческих ошибок при наборе текстов составляют перестановки соседних символов, пропуск символа, добавление нового символа, и ошибка в символе. Поэтому метрика Дамерау — Левенштейна часто используется в редакторских программах для проверки правописания).

Упрощённый алгоритм

Рассмотрим алгоритм, отличающийся от алгоритма поиска расстояния Левенштейна одной проверкой (храним матрицу [math]D[/math], где [math]D(i, j)[/math] — расстояние между префиксами строк: первыми i символами строки [math]S[/math] и первыми j символами строки [math]T[/math]). Рекуррентное соотношение имеет вид:

[math] D(S, T) = D(M,N)[/math] , где

[math]A = \left\{\begin{array}{llcl} 0&&;&i = 0,\ j = 0\\ i&&;&j = 0,\ i \gt 0\\ j&&;&i = 0,\ j \gt 0\\ D(i - 1, j - 1)&&;&S[i] = T[j]\\ \rm{min}(\\ &D(i, j - 1) + insertCost\\ &D(i - 1, j) + deleteCost&;&j \gt 0,\ i \gt 0,\ S[i] \ne T[j]\\ &D(i - 1, j - 1) + replaceCost\\ ) \end{array}\right. [/math] [math]D(i, j) = \left\{\begin{array}{llcl} min(A, D(i - 2, j - 2) + transpositionCost)&&;&i \gt 1,\ j \gt 1,\ S[i] = T[j-1],\ S[i-1] = T[j])\\ A&&; \text{иначе}\\ \end{array}\right. [/math]

Таким образом для получения ответа необходимо заполнить матрицу D, пользуясь рекуррентным соотношением. Сложность алгоритма: [math]O\left (m \cdot n \right )[/math]. Затраты памяти: [math]O\left (M \cdot N \right)[/math].

Псевдокод алгоритма:

int DamerauLevenshteinDistance(char S[1..m], char T[1..n])
   declare int d[0..m, 0..n]
   declare int i, j, cost
     
   // База динамики
   for i from 0 to m
      d[i, 0] = i
   for j from 1 to n
      d[0, j] = j
    
   for i from 1 to m
      for j from 1 to n           
         // Стоимость замены
         if S[i] == T[j] then cost = 0
            else cost = 1
          
         d[i, j] = minimum(
                              d[i-1, j  ] + 1,                    // удаление
                              d[i  , j-1] + 1,                    // вставка
                              d[i-1, j-1] + cost                  // замена
                          )
          if(i > 1 and j > 1 
                   and S[i] == T[j-1] 
                   and S[i-1] == T[j]) then
             d[i, j] = minimum(
                                  d[i, j],
                                  d[i-2, j-2] + costTransposition // транспозиция
                              )
    
   return d[m, n]

Контрпример: [math]S =[/math] [math]'CA'[/math] и [math]T =[/math] [math]'ABC'[/math]. Расстояние Дамерау — Левенштейна между строками равно 2 ([math]CA \rightarrow AC \rightarrow ABC[/math]), однако функция приведённая выше возвратит 3. Дело в том, что использование этого упрощённого алгоритма накладывает ограничение: любая подстрока может быть редактирована не более одного раза. Поэтому переход [math]AC \rightarrow ABC[/math] невозможен, и последовательность действий такая: ([math]CA \rightarrow A \rightarrow AB \rightarrow ABC[/math]).

Условие многих практических задач не предполагает многократного редактирования подстрок, поэтому часто достаточно упрощённого алгоритма. Ниже представлен более сложный алгоритм, который корректно решает задачу поиска расстояния Дамерау — Левенштейна.

Алгоритм

Сложность алгоритма: [math]O\left (m \cdot n \cdot \max(m, n) \right )[/math]. Затраты памяти: [math]O\left (M \cdot N \right)[/math]. Однако скорость работы алгоритма может быть улучшена до [math]O\left (M \cdot N \right)[/math].

В основу алгоритма положена идея динамического программирования по префиксу. Будем хранить матрицу [math]D[0..m + 1][0..n + 1][/math], где [math]D[i + 1][j + 1][/math] — расстояние Дамерау — Левенштейна между префиксами строк [math]S[/math] и [math]T[/math], длины префиксов — [math]i[/math] и [math]j[/math] соответственно.

Будем заполнять матрицу следующим образом, используя рекуррентное соотношение, описанное ниже:

for i from 0 to m
   for j from 0 to n
      вычислить D(i, j);
return D(m, n);

Для учёта транспозиции потребуется хранение следующей информации. Инвариант:

[math]sd[x][/math] — индекс последнего вхождения [math]x[/math] в [math]S[/math]

[math]DB[/math] — на i-й итерации внешнего цикла индекс последнего символа [math]T: T[DB] = S[i][/math]

Тогда если на очередной итерации внутреннего цикла положить: [math]i1 = sd[T[j]],\ j1 = DB[/math], то

[math]D(i, j) = min(A, D(i1, j1) + (i - i1 - 1) + 1 + (j - j1 - 1))[/math], где

[math]A = \left\{\begin{array}{llcl} 0&&;&i = 0,\ j = 0\\ i&&;&j = 0,\ i \gt 0\\ j&&;&i = 0,\ j \gt 0\\ D(i - 1, j - 1)&&;&S[i] = T[j]\\ \rm{min}(\\ &D(i, j - 1) + insertCost\\ &D(i - 1, j) + deleteCost&;&j \gt 0,\ i \gt 0,\ S[i] \ne T[j]\\ &D(i - 1, j - 1) + replaceCost\\ ) \end{array}\right. [/math]

Псевдокод алгоритма:

int DamerauLevenshteinDistance(char S[1..m], char T[1..n])
   // Обработка крайних случаев
   if (S == "") then
      if (T == "") then
         return 0
      else
         return n
   else if (T == "") then
      return m
   declare int D[0..m + 1, 0..n + 1]          // Динамика
   declare int INF = m + n                    // Большая константа
    
   // База индукции
   D[0, 0] = INF;
   for i from 0 to m
      D[i + 1, 1] = i
      D[i + 1, 0] = INF
   for j from 0 to n
      D[1, j + 1] = j
      D[0, j + 1] = INF
    
   declare sd[0..количество различных символов в S и T]
   //для каждого элемента C алфавита задано значение sd[C] 
    
   foreach (char Letter in (S + T))
      if Letter не содержится в sd
         добавить Letter в sd
         sd[Letter] = 0
    
   for i from 1 to m
      declare int DB = 0
      for j from 1 to n
         declare int i1 = sd[T[j]]
         declare int j1 = DB
         if S[i] == T[j] then
            D[i + 1, j + 1] = D[i, j]
            DB = j
         else
            D[i + 1, j + 1] = minimum(D[i, j], D[i + 1, j], D[i, j + 1]) + 1
         D[i + 1, j + 1] = minimum(D[i + 1, j + 1], D[i1, j1] + (i - i1 - 1) + 1 + (j - j1 - 1))
      sd[S[i]] = i
     
   return D[m + 1, n + 1]

См. также

• Задача о редакционном расстоянии, алгоритм Вагнера-Фишера

Cсылки

• Статья на английской Википедии
• Нечёткий поиск в тексте и словаре (Хабрахабр)