我不知道的情况下按了监控系统违法吗?

在自家的范围之内不影响别人可以的。

不知情时安装监控是否违法，主要看监控拍摄的范围。如果只对着自家门口、楼道等公共区域，一般不违法；但要是对着邻居家门窗、卧室、卫生间等私密空间，或者把画面传播出去，那就侵犯他人隐私，属于违法行为，可能要承担消除影响、赔礼道歉甚至赔偿损失的责任。建议你马上检查监控角度，调整到不拍摄他人私密空间的位置，最好能跟邻居沟通一下，消除误会。如果已经产生纠纷，保留好证据，必要时通过诉讼解决。我是杭州的吴亮律师，如果仍有疑问，欢迎追问或一对一咨询。

涉及《民法典》侵权责任编、人格权编、隐私权