Понятно, как это делать для конечных расширений Z/2Z (кто-нибудь видел на практике другие поля характеристики два? :-) только не надо пугать алгебраическими замыканиями :-))
Именно, пусть у нас поле GF(2^n) = (Z/2Z)[x]/(P), где P -- неприводимый полином степени n. Решаем уравнение
Q^2 + a*Q = b.
Наше поле -- заодно и линейное пространство размерности n
с базисом x^i, i=0..n-1.
Наука учит, что отображение \Phi(x) = x^p в полях характеристики p является эндоморфизмом (Фробениуса). То тогда левая часть уравнения представляет собой просто линейный оператор в указанном пространстве, поэтому это вообще задача о системе линейных уравнений.