Racun herba berfungsi dengan mengganggu proses fisiologi dan biokimia rumpai melalui bahan kimia, yang membawa kepada kematian atau perencatan pertumbuhan. Mekanisme tindakan racun herba adalah pelbagai, terutamanya termasuk yang berikut:
1. Gangguan terhadap fotosintesis: Contohnya, racun herba triazine menyekat rantaian pengangkutan elektron fotosintesis, menyebabkan rumpai mati kerana tidak dapat mensintesis tenaga;
2. Perencatan sintesis asid amino: Contohnya, glifosat menghalang sintase EPSP, menyekat sintesis asid amino aromatik;
3. Gangguan pembahagian sel: Contohnya, racun herba dinitroaniline menghalang pembentukan mikrotubulus, menghalang pembahagian sel;
4. Meniru hormon tumbuhan: Contohnya, 2,4-D terlalu merangsang pertumbuhan, membawa kepada rumpai yang cacat dan mati. Selektiviti racun herba bergantung pada perbezaan metabolik antara tanaman dan rumpai; racun herba bukan selektif mempunyai kesan membunuh pada semua tumbuhan.
