这个要分开说。
凭证式和电子式国债只能在银行购买，利率比其他的高，但是此类债券一般期限三五年，且要持有到期，若提前支取会得不到那么多利息。若期间急需用钱那就亏了，尽管这类国债可以质押贷款，但是贷款利率要远高于你的存款利率，超过1各月划不来，据我所知，持有这类国债的极少有质押贷款的。

记账式国债，可以在银行柜台（包括网上）和证券交易所购买（就像买卖股票一样，交易费比股票低得多）。这类债券利率一般不高，但好处是可以随时卖出，若你持有一段时间，就可以获得1%以上的年化收益率（凭证式国债就不行了）。

地方债也可以在交易所购买，但现在还不能在银行购买，不知道以后是否可以。

另外在发行期内，可以直接从承销商处买记账国债和地方债。