Фаззинг с AFL++
Фаззер подбирает входные данные, которые роняют программу, и находит уязвимости автоматически.
Команды и конфиги
sudo apt install afl++
afl-cc target.c -o target
mkdir in out && echo test > in/seed
afl-fuzz -i in -o out -- ./target @@На что обратить внимание
Начните с небольших корректных файлов-образцов.