JIT-компиляция в Python работает следующим образом: 2

1. С помощью LLVM генерируется объектный файл ELF, содержащий данные об инструкциях байткода и информацию о необходимых заменах. 2
2. JIT подменяет сгенерированные интерпретатором инструкции байткода их эквивалентами в машинном коде, вставляя необходимые значения аргументов и констант. 2

JIT-компиляция применяется в случаях, когда нужно ускорить работу приложения. 1 Особенно выигрыш получают приложения, работающие с длительными циклами. 1

Например, с помощью JIT-компилятора PyPy можно ускорить код, если процесс работает хотя бы несколько секунд и выполняется чистый Python-код, а не функции из C-библиотек. 1

Также JIT-компиляция используется в библиотеке Numba для ускорения выполнения функций Python, особенно если код ориентирован на числовые вычисления, часто использует NumPy и/или имеет много циклов. 19