5个月没有签劳动合同,因为工资纠纷我不干了,没有写辞职报告,他要给我算自离,发我1800这合法吗?

公司没有同你签订劳动合同就与你发生了劳动关系，其事实本身就已经违反了《劳动合同法》规定的，因此，你随时都有权向公司提出辞职的要求，并不需要向公司再递交什么辞职申请，也不需要公司任何人的批准。
另外，根据《劳动合同法》第八十二条　“用人单位自用工之日起超过一个月不满一年未与劳动者订立书面劳动合同的，应当向劳动者每月支付二倍的工资”的规定，你向公司提出辞职后，不但公司对你扣服装费、学习费是违法的，公司还应当向你按每月双倍的工资标准对你支付工资。