Một Chính phủ hoạt động tốt thì không có điều tiếng gì, nhưng nếu Chính phủ đó phạm sai lầm trong hoạt động thì sao?
Trong trường hợp đó, ở nhiều nước, cơ chế xác định trách nhiệm chính trị của Chính phủ sẽ được áp dụng. Chính phủ chịu trách nhiệm trước Nghị viện (cơ quan đại diện của dân), Nghị viện tỏ thái độ đối với kết quả hoạt động của Chính phủ bằng cách bỏ phiếu bất tín nhiệm hoặc tín nhiệm Chính phủ. Sở dĩ ở đây nói đến trách nhiệm chính trị vì cơ sở để quy trách nhiệm là sự đánh giá chính sách, đường lối hoạt động chính trị của Chính phủ và các thành viên chứ không phải cơ sở pháp lý, mặc dù quy trình quy trách nhiệm của Chính phủ trước Nghị viện được tiến hành bằng những hình thức pháp lý.
Về tính chất của cơ chế này, trong các ấn phẩm hiến pháp học của các nước, có những ý kiến cho rằng đây là một hình thức giám sát của nghị viện, nhưng cũng có ý kiến lại coi đây là hệ quả của công việc giám sát, bởi lẽ giám sát làm rõ và xác định những sự kiện nhất định liên quan đến hoạt động của đối tượng bị giám sát, trong khi đó trách nhiệm lại là hệ quả của sự đánh giá hoạt động đó do cơ quan tiến hành giám sát đưa ra, trong trường hợp này là nghị viện hoặc một trong hai viện của nghị viện.
Cơ chế quy trách nhiệm của Chính phủ trước nghị viện bằng cách bỏ phiếu bất tín nhiệm có hiệu quả lớn và được thể hiện trên những khía cạnh sau:
Trước hết, trên nguyên tắc mọi hành động, hành vi đều ngầm chứa khả năng phát sinh trách nhiệm. Hoạt động của Chính phủ cũng vậy: Chính phủ phải chịu trách nhiệm về những động thái của mình, bảo đảm rằng chúng sẽ không gây ra những hệ quả có hại nào cho người dân; còn khi những hệ quả như vậy xảy ra thì phải có những biện pháp tương ứng. Đó chính là mục đích của cơ chế nói trên.
Thứ hai, hiệu quả gián tiếp của cơ chế này còn có áp lực lớn hơn so với hiệu quả trực tiếp nói trên: nó luôn treo lơ lửng, có tác dụng răn đe, nhắc nhở, buộc Chính phủ phải thận trọng, có trách nhiệm trong hoạt động của mình. Tác động tâm lý đó còn lớn hơn tác động trực tiếp của nó. Ngoài những nguyên nhân khác, không phải ngẫu nhiên mà ở Anh, Đức, Thụy Điển... lại ít khi bỏ phiếu bất tín nhiệm như vậy (ở Anh kể từ khi cơ chế này ra đời đến nay Hạ viện chỉ bỏ phiếu bất tín nhiệm Chính phủ 3 lần, ở Đức 1 lần, ở Thụy Điển – 4 lần).
Cuối cùng, cơ chế trách nhiệm được thiết lập không nhằm “đánh đổ” Chính phủ mà nhằm tạo ra một cơ chế “quyền lực kiềm chế quyền lực”, giám sát, kiểm tra quyền lực lẫn nhau giữa Nghị viện và Chính phủ. Cơ chế kia không chỉ treo lơ lửng trên đầu Chính phủ mà còn là áp lực đối với nghị viện, buộc người ra quyết định cũng phải cân nhắc, có trách nhiệm, đặt lợi ích chung cao hơn những ý đồ chính trị. Nghị viện cũng buộc phải cân nhắc, suy xét kỹ lưỡng, khách quan để lường hết được hệ quả của việc bỏ phiếu, bỏ phiếu đúng đối tượng và đúng thời điểm, để không lạm dụng bỏ phiếu bất tín nhiệm.
Bởi vậy, có thể nói rằng, sức nặng của việc bỏ phiếu bất tín nhiệm nghiêng về sự đánh động, lên tiếng, nhắc nhở, cảnh báo. Nhưng điều đó không có nghĩa là “lưỡi gươm Democles” sẽ không bao giờ chém xuống. Bởi không ít Chính phủ đã phải giải tán sau khi không vượt qua được cuộc bỏ phiếu tín nhiệm tại Nghị viện. Vả lại, riêng việc bị đưa ra “chịu trận” trước búa rìu dư luận và sự xem xét của nghị viện mà lại không có lý lẽ thuyết phục nào để giải trình cũng đủ để những chính khách có lòng tự trọng thấy xấu hổ mà dũng cảm tự xin rút lui, hoặc buộc phải có những biện pháp tương ứng. Bỏ phiếu tín nhiệm thực ra vừa hướng tới sự ổn định, vừa tạo ra sự năng động trên chính trường.