Blog

  1. Modular Arithmetic Visualizations
  2. In Search of a Perfect Colormap
  3. Nonlinear Dimensionality Reduction Feature Maps
  4. Character Distributions at a Glance
  5. Binary Texture Generation as an Optimization Problem

Metaheuristics

  1. Local Search
  2. Tabu Search
  3. Genetic Algorithm

Misc Research

Karpov P., Tonda, A., Squillero, G. VALIS: an Evolutionary Classification Algorithm. Draft PDF

Abstract: VALIS is an effective and robust classification algorithm with a focus on understandability. Its name stems from Vote-ALlocating Immune System as it evolves a population of artificial antibodies that can bind to the input data, and performs classification through a voting process. In the beginning of the training process, VALIS generates a set of random candidate antibodies; then, at each iteration it selects the best artificial antibodies to produce new candidates, while the less useful ones are discarded, and the process is iterated until a user-defined stopping condition. The evolutionary paradigm allows the user to get a visual insight into the learning dynamics, helping to supervise the process, pinpoint problems, and tweak feature engineering. VALIS is tested against nine state-of-the-art classification algorithms on six popular benchmark problems, proven to be competitive with all these well-established black-box techniques, and even superior for specific corner cases.

Новый иммуноподобный алгоритм классификации типа "обучение с учителем" VALIS / VALIS, a novel immune-inspired classification algorithm // XII национальная конференция по искусственному интеллекту с международным участием КИИ-2010 (20-24 сентября 2010 г., Тверь, Россия): Труды конференции. В 4-т., М: Физматлит, 2010, Т.2, с.325-334. PDF (Russian), presentation: English / Russian

Аннотация: В статье предлагается новый алгоритм классификации VALIS, основанный на принципах функционирования иммунной системы. Работа алгоритма рассматривается на примере задач распознавания символов и классификации текстов.

Abstract: VALIS (Vote-Allocating Immune System), a novel classification algorithm inspired by the immune system is proposed. Performance of the algorithm is studied on the character recognition and text classification problems.

Автоматический выбор параметров алгоритмов / Automatic algorithm tuning PDF (Russian)

Аннотация: В работе рассмотрена проблема автоматической настройки параметров алгоритмов и оценки их влияния. Предложен общий метод её решения в условиях ограниченных вычислительных ресурсов. Эффективность метода продемонстрирована на примере настройки метаэвристического алгоритма оптимизации.

Abstract: Present work studies the problem of automatic algorithm parameter tuning and effect estimation. A general method of solving the problem under condition of limited computational resources is proposed. Efficiency of the method is demonstrated on a metaheuristic optimization algorithm.

Критерии принятия в алгоритме симуляции отжига / Simulated annealing acceptance criteria PDF (Russian)

Аннотация: Целью работы является изучение различных критериев принятия в алгоритме симуляции отжига. Рассматриваются существующие (Метрополиса, Цаллиса, Баркера, пороговое принятие) и оригинальные критерии. Эффективность критериев сравнивается на различных проблемах оптимизации: синтетическая тестовая функция, задача коммивояжёра, минимальное линейное размещение, построение магических квадратов, раскраска графа.

Abstract: Present work studies different acceptance criteria employed in the simulated annealing algorithm. Existing (Metropolis, Tsallis, Barker, threshold acceptance) and original criteria are examined. Their efficiency is compared on various optimization problems: synthetic test function, traveling salesman problem, minimal linear arrangement, magic squares construction, graph coloring.

Other

Concise x86 assembly reference I wrote for myself. Also available in print-ready odt and pdf versions.

Programming fonts comparison with short Pascal code snippet serving as an example.