Хм. Интересная ошибка.
Число внутри скобок почему-то преобразуется к целому. Причем, преобразуется либо к нулю, либо к 255.
Если отбросить внутренние скобки
test_table.A/(test_table.A/test_table.B * k), то ошибка остается. Если же еще и переставить число внутри скобок
test_table.A/(k * test_table.A/test_table.B), то ошибка пропадает и считается правильно.
А так
test_table.A/(k * (test_table.A/test_table.B)) - опять появляется.
В общем, поле чудес какое-то