[Bug] flink任务在异常过程中，从streampark重启该任务的情况，会导致任务重复。

[etansens]

Search before asking

• I had searched in the issues and found no similar issues.

Java Version

No response

Scala Version

2.11.x

StreamPark Version

2.1.5

Flink Version

flink任务在异常过程中，从streampark重启该任务的情况，会导致任务重复。

Deploy mode

None

What happened

flink任务在异常过程中，从streampark重启该任务的情况，会导致任务重复。

Error Exception

Screenshots

No response

Are you willing to submit PR?

• Yes I am willing to submit a PR!(您是否要贡献这个PR?)

Code of Conduct

• I agree to follow this project's Code of Conduct

[stephenZkang]

flink任务异常，不是就失败停止了吗？
我测试使用kafka读消息，写入到mysql，开始没加过来异常json格式的配置，写入非法json，任务就停止，在streampark还是可以再启动起来的

[Li-GL]

也遇到了同样的问题，我们最近下线yarn节点导致好多任务的jobmanager url不可用了（切换了），然后很多任务请求job manger url 5秒超时，线程池队列里就堆了好多，现在是watcher是每5秒轮询所有任务状态，如果5秒内处理不完，譬如我们有200个任务，当大量任务5秒超时时，5秒内处理不完的，然后就导致线程池队列堆积。这个时候如果有异常任务需要重启，watcher不会一下子感知并处理到，会先放到队列里，并且放多次，然后多个线程同时处理队列的同样的需要重启的任务，就会导致任务重复提交到yarn。
解决方案：

1. 考虑把watcher 轮询间隔调大，现在是写死的5秒，可以调大到10秒，15秒，最好是可配置的。
2. 线程数调大，目前是cpu*10，可以考虑部署到更多cpu的机器或者k8s部署的话cpu资源给多点，或者线程数这块做成可配置的
3. 尽量不要老是请求不可用的job manager url导致线程池队列堆积，如果不可用了不如直接用yarn proxy url，并在之后一直用proxy url