Riêng tại Thụy Điển, thuật ngữ “Ombudsman” là một từ cổ, được sử dụng qua nhiều thế kỷ để mô tả một người đại diện hoặc bảo vệ lợi ích của người dân. Từ này ban đầu có nguồn gốc từ các bộ tộc của người Đức thời trung cổ, nơi áp dụng thuật ngữ này cho một bên thứ ba, nhiệm vụ của họ là thu tiền phạt từ các gia đình có tội đã ăn năn và đưa họ đến các gia đình bị thương của nạn nhân (Kircheiner, 1983). Phần còn lại của từ trong thuật ngữ “ombudsman” - từ "man" được lấy trực tiếp từ tiếng Thụy Điển (từ tiếng Na Uy cổ đại là “umbodhsmadr”) và không nhất thiết có nghĩa là người đó có giới tính nam.
Tại Thụy Điển, cơ quan Thanh tra Quốc hội được thành lập bởi Quốc hội nhằm hỗ trợ cho Quốc hội giám sát hoạt động của nhánh hành pháp và tư pháp. Rõ ràng, Quốc hội Thụy Điển cảm thấy chưa hài lòng với khả năng giám sát các nhánh quyền lực còn lại trong bộ máy nhà nước. Để thể hiện vai trò của mình là người đại diện cho nhân dân, Quốc hội Thụy Điển nhận thấy cần phải có một cơ quan để tiếp nhận các khiếu nại của người dân về những hành động của nhánh hành pháp và tư pháp. Qua phân tích công trình nghiên cứu của tiến sĩ Pickl, có thể nhận thấy, hành chính công xuất hiện rất sớm, dường như là gắn liền với sự ra đời của nhà nước và kể từ khi hành chính công xuất hiện thì nhu cầu kiểm soát hoạt động hành chính đã được đặt ra, mặc dù thời gian đầu có thể chưa thực sự rõ ràng. Điều này có thể lý giải bởi hoạt động hành chính là sự thi hành các quyết định của chủ thể có quyền hoạch định chính sách hay đặt ra pháp luật, vì thế, những chủ thể này bao giờ cũng muốn việc thực thi phải đúng với những gì mà mình đã đặt ra và để bảo đảm được điều này, cần phải có sự giám sát, kiểm tra các quan chức hành chính cũng như hoạt động của họ. Mặt khác, các nhà nước cổ đại đã phần nào nhận thức căn cứ quan trọng để kiểm soát được hành chính công là phải dựa trên phản ánh của người dân. Vì nền hành chính công ở thời kỳ nào thì sự tác động của nó cũng chủ yếu là đến người dân, chính quyền cũng nhận thức được rằng kiểm soát hành chính công, hạn chế sự xâm phạm bất hợp pháp đến quyền lợi của người dân là cách để củng cố sự thống trị của chính quyền. Như vậy, cần phải khẳng định, về bản chất, sự xuất hiện của Thanh tra Quốc hội chính là dựa trên dòng chảy khách quan của lịch sử về nhu cầu kiểm soát đối với hoạt động quản lý hành chính. Về thực tiễn, lịch sử phát triển tổ chức quyền lực nhà nước của Thụy Điển đã phản ánh nguyên nhân dẫn đến sự ra đời Thanh tra Quốc hội. Như đã đề cập ở trên, một cơ quan thanh tra được thành lập tại Thụy Điển lúc đầu là do ý tưởng của nhà vua Charles XII vào năm 1713 với tên gọi là Thanh tra công lý (Ombudsman for Justice) nhằm bảo đảm sự tuân thủ các đạo luật và quy tắc được đề ra đối với các thẩm phán, sĩ quan quân đội và nhân viên dân sự.
Văn phòng Thanh tra Quốc hội được thành lập liên quan đến việc thông qua Regeringsform (Luật Công cụ của Chính phủ) có hiệu lực sau khi Vua Thụy Điển bị phế truất vào năm 1809 và trên một mức độ nào đó dựa trên ý tưởng của Montesquieu về sự phân chia quyền hạn. Trước sự cai trị chuyên quyền của Vua Gustav III, các nhà lập pháp đã đưa vào hiến pháp mới một hệ thống cho phép Riksdag kiểm soát một số việc thực thi quyền hành pháp. Do đó, Ủy ban Thường vụ về Hiến pháp được giao nhiệm vụ giám sát hành động của các bộ trưởng và đảm bảo việc bầu ra một Thanh tra viên đặc biệt của Quốc hội để giám sát việc tuân thủ luật pháp của các cơ quan công quyền, với cơ sở pháp lý được ghi nhận trong Luật Công cụ của Chính phủ năm 1809 và Đạo luật Quốc hội được thông qua năm 1810. Đạo luật này có các điều khoản liên quan đến Kiểm toán viên do Riksdag bầu ra để xem xét kỹ lưỡng các hoạt động của cơ quan dân sự, Ngân hàng Thụy Điển và Văn phòng Nợ quốc gia. Các quy định trong Chương 12 của Luật Công cụ của Chính phủ năm 1974 sau đó đã hợp nhất ba cơ quan của Riksdag giám sát này (tức là Thanh tra Quốc hội, Ủy ban Thường vụ về Hiến pháp và Kiểm toán của Quốc hội) vào hệ thống hiện hành Quốc hội.
Theo Luật Công cụ của Chính phủ (Regeringsform) năm 1809, quyền lực được phân chia giữa Vua và Quốc hội. Vua được chỉ định Quan chưởng lý (nói cách khác là Thanh tra Hoàng gia) và Quốc hội bổ nhiệm Thanh tra của riêng mình. Mục đích chính của việc thành lập chức vụ mới này với tên gọi Ombudsman (Thanh tra viên Quốc hội) là để bảo vệ quyền của công dân bằng cách thành lập một cơ quan giám sát hoàn toàn độc lập với cơ quan hành pháp. Tuy nhiên, có vẻ khá tự nhiên khi mô hình văn phòng mới này dựa trên mô hình của Tổng chưởng lý tư pháp. Do đó, giống như Tổng chưởng lý, Thanh tra viên là một công tố viên có nhiệm vụ giám sát việc áp dụng pháp luật của các thẩm phán và công chức.
Theo quy định của Luật Công cụ của Chính phủ 1809, Riksdag đã bổ nhiệm một người đàn ông có nhiệm vụ “đưa ra các hình thức kiểm tra và truy vấn thành các khiếu nại. Trong thế kỷ đầu tiên tồn tại của Văn phòng, tổng số đơn khiếu nại lên tới khoảng 8.000.
Ngày nay, Đạo luật có Hướng dẫn cho Thanh tra Quốc hội (1986) và các sửa đổi bổ sung vào năm 1989 - nêu rõ rằng khi đảm nhận vai trò công tố, Thanh tra viên cũng phải tuân thủ các quy định pháp luật khác áp dụng cho các công tố viên. (Ngoài ra, các hướng dẫn năm 1975 cũng bao gồm một quy định đặc biệt trao quyền cho Thanh tra viên đưa ra các ý kiến phản biện hoặc tư vấn).
Năm 1957, thiết chế Thanh tra Quốc hội cũng được trao quyền giám sát các cơ quan chính quyền địa phương.
