Зачем нужны .H в C и C++ 

Так в C,C++ это компилируемые языки, то есть они после компиляция мы получаем машинный код. У любого калькулятора есть машинный код, но он очень базовый. Машинный код находится либо в ROM, либо в микроконтроллере.

У компилируемых в отличие от интерпретируемых(кроме некоторых исключений) есть предпроцессор.

Предпроцессоры для C, C++:
#define
#include
#elif
#endif
итд.

Предпроцессор в C, C++ является то что написанное и имеет в начале #.

Header переводится как заголовок.