IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> Jmeter的Java脚本往Kafka里传数据——记第一次写JAVA的Jmeter脚本,超详细。 -> 正文阅读

[大数据]Jmeter的Java脚本往Kafka里传数据——记第一次写JAVA的Jmeter脚本,超详细。

需求:需要使用jmeter往Kafka里压大量的数据。

????????这里使用java写一个工具也可以实现,但是之前没自己写过Jmeter脚本。整体的思路就是继承AbstractJavaSamplerClient类实现runTest()方法。但是连接Kafka操作会比较耗资源,查找资料发现了setupTest()方法,在runTest()方法前执行(应该Jmeter创建进程前执行)。这样Kafka就只连接一次,节省资源,保证每个线程的执行时间。

坑:因为之前没写过Jmeter的脚本,需要把所有用到依赖的jar包放到lib目录下。

先贴代码!

依赖:

    <dependencies>
        <dependency>
            <groupId>org.apache.jmeter</groupId>
            <artifactId>ApacheJMeter_core</artifactId>
            <version>5.0</version>
        </dependency>
        <dependency>
            <groupId>org.apache.jmeter</groupId>
            <artifactId>ApacheJMeter_java</artifactId>
            <version>5.0</version>
        </dependency>

        <dependency>
            <groupId>org.apache.kafka</groupId>
            <artifactId>kafka-clients</artifactId>
            <version>1.1.0</version>
        </dependency>

        <dependency>
            <groupId>com.alibaba</groupId>
            <artifactId>fastjson</artifactId>
            <version>1.2.47</version>
        </dependency>
    </dependencies>

代码:

import org.apache.jmeter.config.Arguments;
import org.apache.jmeter.protocol.java.sampler.AbstractJavaSamplerClient;
import org.apache.jmeter.protocol.java.sampler.JavaSamplerContext;
import org.apache.jmeter.samplers.SampleResult;
import org.apache.kafka.clients.producer.KafkaProducer;
import org.apache.kafka.clients.producer.Producer;
import org.apache.kafka.clients.producer.ProducerRecord;
import org.apache.kafka.clients.producer.RecordMetadata;
import org.junit.Test;


import java.util.Properties;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.Future;


public class JmeterTest extends AbstractJavaSamplerClient {


    private Producer<String, String> procuder;

    /**
     * Jmeter默认参数
     *
     * @return
     */
    @Override
    public Arguments getDefaultParameters() {
        Arguments params = new Arguments();
        params.addArgument("kafka_server", "ip:port");//jmeter中变量的默认值
        params.addArgument("kafka_topic", "kafka_topic");
        params.addArgument("kafka_key", "kafka_key");
        params.addArgument("kafka_message", "kafka_message");
        params.addArgument("kafka_value_serializer", "org.apache.kafka.common.serialization.StringSerializer");
        params.addArgument("kafka_key_serializer", "org.apache.kafka.common.serialization.StringSerializer");
        params.addArgument("kafka_linger_ms", "100");
        params.addArgument("kafka_buffer_memory", "100000000");

        params.addArgument("kafka_security_protocol", "SASL_PLAINTEXT");
        params.addArgument("kafka_sasl_mechanism", "PLAIN");
        params.addArgument("kafka_sasl_plain_username", "admin");
        params.addArgument("kafka_sasl_plain_password", "123");

        return params;
    }

    /**
     * 进程启动前的方法
     *
     * @param context
     */
    @Override
    public void setupTest(JavaSamplerContext context) {
        Properties props = new Properties();
        props.put("bootstrap.servers", context.getParameter("kafka_server"));
        props.put("acks", "all");
        props.put("retries", 0);
        props.put("batch.size", 16384);
        props.put("linger.ms", context.getParameter("kafka_linger_ms"));
        props.put("buffer.memory", context.getParameter("kafka_buffer_memory"));
        props.put("key.serializer", context.getParameter("kafka_key_serializer"));
        props.put("value.serializer", context.getParameter("kafka_value_serializer"));

        props.put("security.protocol", context.getParameter("kafka_security_protocol"));
        props.put("sasl.mechanism", context.getParameter("kafka_sasl_mechanism"));
        props.put("sasl.jaas.config", "org.apache.kafka.common.security.scram.ScramLoginModule required username=\"" + context.getParameter("kafka_sasl_plain_username") + "\" password=\"" + context.getParameter("kafka_sasl_plain_password") + "\";");
        //org.apache.kafka.common.security.plain.PlainLoginModule required
        this.procuder = new KafkaProducer<>(props);
        System.out.println("procuder初始化成功");
    }


    public void producer(String kafka_message, String kafka_topic, String kafka_key) throws ExecutionException, InterruptedException {
        ProducerRecord<String, String> msg = new ProducerRecord<String, String>(kafka_topic, kafka_key, kafka_message);
        Future<RecordMetadata> f = procuder.send(msg);
        System.out.println(f.get());
    }

    /**
     * jmeter测试入口
     *
     * @param context
     * @return
     */
    @Override
    public SampleResult runTest(JavaSamplerContext context) {
        SampleResult sr = new SampleResult();
        sr.sampleStart();// jmeter 开始统计响应时间标记
        try {
            producer(context.getParameter("kafka_message"), context.getParameter("kafka_topic"), context.getParameter("kafka_key"));
        } catch (ExecutionException e) {
            e.printStackTrace();
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        sr.setSuccessful(true);
        sr.sampleEnd();
        return sr;
    }

    /**
     * 测试方法
     * @throws ExecutionException
     * @throws InterruptedException
     */
    @Test
    public void test() throws ExecutionException, InterruptedException {
        Properties props = new Properties();
        props.put("bootstrap.servers", "192.168.172.30:9102");
        props.put("acks", "all");
        props.put("retries", 0);
        props.put("batch.size", 16384);
        props.put("linger.ms", "1000");
        props.put("buffer.memory", "100000000");
        props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer");
        props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer");

        props.put("security.protocol", "SASL_PLAINTEXT");
        props.put("sasl.mechanism", "PLAIN");
        props.put("sasl.jaas.config", "org.apache.kafka.common.security.scram.ScramLoginModule required username=\"" + "admin" + "\" password=\"" + "123" + "\";");
        //org.apache.kafka.common.security.plain.PlainLoginModule required
        this.procuder = new KafkaProducer<>(props);

        producer("{\n" +
                "\t\"parm\": \"test\"\n" +
                "}", "topic", "987654123");
    }


}

这里的 身份认证使用的是SASL,其他方式参考官方文档:

http://kafka.apache.org/0102/javadoc/index.html?org/apache/kafka/clients/producer/KafkaProducer.html

步骤:

1.建工程

2.引依赖(见代码)

3.代码实现(见代码)?

4.打包

5.将打好的包放在apache-jmeter-5.4.1\lib\ext? 目录下

6.从MVN仓库或者其他地方将引用的jar包放在apache-jmeter-5.4.1\lib 下(这里坑了我好好长时间MD)?

7.使用Jmeter

?

?

?

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-07-23 10:51:49  更:2021-07-23 10:52:51 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年5日历 -2024/5/5 9:22:07-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码