目前，影響我國行政復議制度功能發揮的一個重要因素就是復議機關的設置不合理。由于我國設立行政復議的目的主要是使行政機關自行審查其行政行為的合法性和合理性，因此按照我國《行政復議法》的規定，復議機關原則上是作出具體行政行為的原行政機關的同級人民政府或上一級主管部門，其與被申請人不僅同屬于行政組織，而且在組織上或業務上與被申請人有領導和被領導的關系。從目前法律對行政復議作出的界定來看，它是指公民、法人或其他組織認為行政機關的具體行政行為侵犯其合法權益，依法向法定的行政機關提出申請，由受理機關根據法定程序對具體行政行為的合法性和適當性進行審查并作出相應決定的活動。由此可以看出，行政復議實質上具有一種裁判性，即準司法性的活動。首先，行政復議遵循的是“不告不理”的原則，行政復議活動的產生由行政相對人依法提出申請;其次，行政復議是以解決個案的方式來裁決爭議的，即解決行政機關與行政相對人之間的爭議。行政復議準司法性決定了它必須在程序上體現出司法的一些特征，而司法的精髓在于其公正地解決紛爭，因而它需要以復議機關的超脫性和程序上的嚴密性為支撐。目前從我國行政復議制度的形式來看，由于復議機關與被申請人具有一種利害關系，復議機關也就很難超脫于糾紛雙方之上，公正地解決糾紛。

我國目前的行政復議屬于一種層級監督的體制，其法律根據及理由是基于憲法規定的行政領導體制。憲法的相關規定，決定了上級行政機關對下級行政機關具有領導權，下級行政機關必須對上級行政機關負責。上級行政機關對下級行政機關行使監督權正是實現對下級領導的重要方式。上級行政機關對下級行政機關的監督由于基于上級對下級的直接領導關系。在監督手段上，不僅可以通過受理復議案件查處下級行政機關的行為是否合法、適當并做出相應的處理。另外，立法者認為層級監督作為行政系統的一種內部監督形式，在實踐中會更行之有效。層級監督作為一種上下級之間的內部監督，由于上下級機關自成一體，相互關系密切，從上級機關來說，對下級機關的情況比較了解，也了解行政上的實際，技術上比較內行，監督與領導合二為一，使監督更具有權威。

然而，任何制度設計都是既有利也有弊的，這就要求我們在進行制度設計時作出一種權衡的選擇。現行的這種層級監督制度的復議形式雖然起到了一定的作用，但在實踐操作中卻帶來了很多的問題，使得我們不得不重新審視它的合理性。層級監督作為一種內部行政監督，難以保證監督的民主性和公正性。行政機關是管理機關，其內設的復議機構是負責法制工作的機構，并非專門設立的復議部門，其機構不獨立，承擔著其他繁重的行政管理任務，也就不可能集中精力對下級行政機關的行政行為是否合法進行有效的監督。由于行政上下級之間自成一體，其監督仍然只是一種自我監督，從現代法治精神上說，此種機制不符合回避的原則，也就很難發揮其應有的功能。且不說行政機關上下級之間是否官官相護，存在護短心理，就是上級行政機關對下級嚴格要求，有錯必糾，仍然很難擺脫下級行政機關本身貫徹上級行政機關意圖的所存在的問題，同時很多行政行為都是事先請示上級行政領導首肯的，在這種情況下，上級行政機關所進行的復議活動往往容易留于形式，難以真正發揮行政復議制度的作用。

現行的行政復議法中還規定有“對國務院部門或者省、自治區、直轄市人民政府的具體行政行為不服的，向作出該具體行政行為的國務院部門或者省、自治區、直轄市人民政府申請行政復議。對行政復議決定不服的，可以向人民法院提起行政訴訟;也可以和國務院申請裁決，國務院依照本法的規定作出最終裁決。”此規定采取了一個“自審”的方式進行復議，并采取選擇的形式，從而部分地用行政裁決權替代了司法審查權，從而使部分行政行為缺乏有效監督。

除上述問題以外，行政復議法對復議工作人員的配備及要求并沒有作出相應的規定，這也是該制度的缺陷，但是如果以上的程序問題不能重新設定，在目前的制度框架內，即便素質再高的人也難以有所作為，因為實際上行政復議最終作出決定權的并不是復議機構及復議工作人員，而是復議機構所在的行政機關的負責人，從而造成復議權和裁決權分離的狀態。